りさんの方針自体は正しいです。誤ってるのは、反例としてaを探していることです。
この問題の場合、0<a<b<1を満たす"どんな"a,bに対しても、反例となるx(とf(x))があることを示す必要があります。
なので、解答例は背理法ではありますが、その気持ちとしては、0<a<b≦1/2...矛盾、0<a≦1/2<b<1...矛盾、1/2<a<b<1...矛盾、ほら、0<a<b<1を満たす"どんな"a,bに対しても矛盾するよね、だから[a,b]が不変という主張は成り立たないよね、と言おうとしているのです。
補足
一般的に、命題「PならばQ」の否定は「Pかつ(Qでない)」です。
この問題では、不変:「a≦x≦bならば(この範囲にあるどんなxに対しても)a≦f(x)≦b」ですので、不変でない:「a≦x≦bかつ(f(x)<aまたはb<f(x))(となるxがある)」となります。(ちょっと分かりづらいかもしれませんが、要するにa≦f(x)≦bとはならないxがa≦x≦bの範囲にあるということです)
ですから、(2)を直接示すのであれば、a,bを0<a<b<1として固定して、その状況でa≦X≦bであってf(X)<aもしくはb<f(X)となるXを1個見つけてやればよいのです。