回答

a=2、b=-1だと、
Y=2X-1という式になります。
そこに、X=3を代入すると、Y=5になります。
問題文よりY=5 未満ですので、a=2、b=-1はダメなのではないでしょうか。

この回答にコメントする
疑問は解決しましたか?