参考・概略です
(x²-3x)²-7x²(3-x)+10x²
●-7x²(3-x)=-7x(3x-x²)=+7x(x²-3x)なので
(x²-3x)²+7x(x²-3x)+10x²
●(x²-3x)=Mと置くと
M²+7xM+10x²
●2x+5x=7x,2x・5x=10x²から
{M+2x}{M+5x}
●M=(x²-3x)と戻すと
{(x²-3x)+2x}{(x²-3x)+5x}
●{}内を整理して
{x²-x}{x²+2x}
●{}内を更に因数分解
{x(x-1)}{x(x+2)}
●全て積の形なので,順や形を整理して
x²(x-1)(x+2)