f(x)=x³-3x²+ax+b
f'(x)=3x²-6x+a
を踏まえて,以下のような流れになっています
●x=3 で極大値をとることから
f'(x)に,x=3を代入した値が 0 で
f'(3)=0
つまり,3(3)²-6(3)+a=0 を整理し
9+a=0 ・・・ ①
●x=3 で極大値が(-26)となることから
f(x)に,x=3を代入した値が -26 で
f(3)=-26
つまり,(3)³-3(3)²+a(3)+b=0 を整理し
3a+b=0 ・・・ ②
①,②を解いて,a=-9,b=1