濃度計算は、食塩の量を求めて 計算しなおした方が良いですよ。
11%の食塩水400(g) から x(g) 取り出したとき
・x(g) の食塩水には x*11/100 (g) の食塩
・(400-x)(g) の食塩水には (400-x)*11/100 (g) の食塩
6%の食塩水600(g) から x(g) 取り出したとき
・x(g) の食塩水には x*6/100 (g) の食塩
・(600-x)(g) の食塩水には (600-x)*6/100 (g) の食塩
容器A,容器Bともに、x(g)出してx(g)入れたので、食塩水の量は変化なし。
容器Aの濃度
{(400-x)*11/100 + x*6/100}/400 = (400*11-5x)/40000
容器Bの濃度
{(600-x)*6/100 + x*11/100}/600 = (600*6+5x)/60000
これが等しいので
(400*11-5x)/40000 = (600*6+5x)/60000
3(4400-5x) = 2(3600+5x)
25x = 6000
x = 240(g) (2)
x=240のとき Aの濃度
(400*11-5*240)/40000 = 3200/40000 = 0.08
8% (3)