回答

a:b:c=2:5:6 なので
実数kを用いて、a=2k、b=5k、c=6k と置くことができます。
これを使って予言定理を使えばkが計算の途中で消去され、cosの値が出ると思いますよ。

この回答にコメントする
疑問は解決しましたか?