(1)f(x)がx=-1を二重解としてもつのです。
ならば、f(x)は、
f(x)=(x+1)²(x-α) (αはなんらかの解)
と、因数分解できるのです。
これを展開してみて、
(x²+2x+1)(x-α)
=x³-2x²+x-α(x²+2x+1)
=x³-(2+α)x²+(1-2α)x -α
これが
f(x)=x³+ax²+13x+b
と恒等式であるので、
1-2α=13
-2-α=a
-α=b
より
α=-6
よって
b=6
a=4
(2)
(3次方程式の一つの解が虚数解であるとき、もう一つの虚数解はその虚数解の共役の複素数であることは有名なネタであるので、これを覚えておくこと。)
解がx=1±2i
であるような2次方程式は、解と係数の関係より
(1+2i)+(1-2i)
=2
(1+2i)(1-2i)
=3
よって
x²-2x+3
(1)と同様に、
f(x)=(x²-2x+3)(x-β)
とすると
f(x)=x³-(2+β)x²+(3+2β)x-3β
(1)と同様に、
-2-β=a
3+2β=13
-3β=b
よって
β=5
a=-7
b=-15