回答

約束にしたがって計算する. それだけです.
a☆b:=ab+aは四則演算のみで出来ているので, 基本的な計算方法は同じです.
もし読んで分からないところがあったら, その場所を指摘してください.
***
(2☆x)☆x
=(2x+2)☆x [四則演算と同じく小括弧から計算する. a=2, b=xと見立てる]
=(2x+2)x+(2x+2) [今度はa=2x+2, b=xと見立てる. 置き換えしないほうが分かりやすいと私は思います.]
=(2x+2)(x+1) [2x+2が共通なので括る. 因数分解出来ました.]
=2(x+1)^2
これが18と等しいから
2(x+1)^2=18
⇔(x+1)^2=9
⇔(x+1)=±3 [(±3)^2=9に注意! a^2-b^2=(a+b)(a-b)を利用して{(x+1)+3}{(x+1)-3}=0としてもよい.]
⇔x=±3-1=-4, 2.
と求まった.

この回答にコメントする
疑問は解決しましたか?