回答

三平方の定理の公式を間違えてます。
10²=5²+F²
F²=10²−5²
F>0より、F=√75=8.65[N]

ただ、√75=8.65 はなかなか求めづらいので、
三角比を習っていたら、写真の三角形から、
 10[N]× cos30°
=10×√3/2
=5√3
=5×1.73
=8.65[N]
と求める方が良いかと。

この回答にコメントする
疑問は解決しましたか?