まず、「線分ABが直線y=ax+bと共有点をもつ」とはどういうことなのか?を明確にしていきます。
図を見てもらえればわかりますが、
「共有点を持たない」というのは、「点Aと点Bが両方とも直線y=ax+bの上にきてしまうか、もしくは下にきてしまうか」のどちらかということになります。ということは、
「共有点をもつ」というのは
ⅰ)「点Aが直線の上にくる、かつ点Bが直線の下にくる」もしくは、
ⅱ)「点Aが直線の下にくる、かつ点Bが直線の上にくる」
ということになります。ここで場合わけができます。
次は、「点Aが直線の上にくる」とはどういうことなのか?を明確にしていきます。
図を見てもらえればわかりますが、同じx座標において、Aのy座標が直線上のy座標よりも上に来れば良い、ということになるので、
y座標を比較して、次のような不等式が立てられます。
同じように、Bについても考えられ、ここでAとの共通範囲を求めます。
ⅱ)についても同様の手順で求められ、ⅰ)とⅱ)を合計した範囲を図示します。
訂正
Aのy座標が直線上のy座標よりも上
→ Aのy座標が直線上のy座標と同じかそれよりも上