abの項があって他のa,bは2次ですから、
(a+nb)(a+mb)のように因数分解されるのだろうと考えます。展開すると
a^2+(n+m)ab+nmb^2
この時、n,mは有理数でなければ、有理数範囲で因数分解できるとは言えません。
元の式a^2+ab+b^2と係数を比較して、n+m=1,nm=1が成り立つような有理数n,mがあって欲しいのですが、連立させて解いてみるとn,mは有理数ではありません。
つまりa^2+ab+b^2の因数分解(a+nb)(a+mb)は有理数でないので、a^2+ab+b^2は有理数範囲で因数分解できません。
a^2-ab+b^2においても、(a-nb)(a-mb)として考えます。同様に計算すると、有理数範囲で因数分解できないとわかります。
以上がここの説明なのだろうと思います。
ただ、a^2+ab+b^2が(a+nb)(a+mb)の形に因数分解されるというのは僕の予想で、この形で因数分解できた例で反例は見たことがありませんが、根拠の曖昧なものです。
ぜひその根拠を考えてみてください。