(1)
(x³+y³)+z³-3xyz # (x³+y³)だけに着目して置換
={(x+y)³-3xy(x+y)}+z³-3xyz
={(x+y)³+z³}-{3xy(x+y)+3xyz} # 並べ替えると {(x+y)³+z³} と 再び A³+B³の形が現れるので置換
={(x+y+z)³-3(x+y)z(x+y+z)}-3xy(x+y+z) #(x+y+z) で括れる
=(x+y+z){(x+y+z)²-3(x+y)z-3xy} # 一度ばらして整理しなおす。
=(x+y+z)(x²+y²+z²+2xy+2yz+2zx-3zx-3yz-3xy)
=(x+y+z)(x²+y²+z²-xy-yz-zx)
おそらく、ここまでが解答。
※もう少し進めると、(x+y+z){(x-y)²+(y-z)²+(z-x)²}/2 だけと
特に指示が無ければ、ここまでは不要と思う。
(2)
a³+6ab-8b³+1 で x=a,y=-2b,z=1 とすれば
x³+y³+z³-3xyz となるので
a³+6ab-8b³+1
=(a-2b+1){a²+(-2b)²+1²-a*(-2b)-(-2b)*1-1*a}
=(a-2b+1)(a²+4b²+1+2ab+2b-a)
