初等幾何で解くのが一番楽だと思います.
ただし最大値であることをきっちり示さないといけません.
***
余弦定理からBC=√{OB^2+OC^2-2(OB・OC)}=√7
またベクトルOB, ベクトルOCのなす角θはcosθ=1/2, sinθ=√3/2[θ=60°]
ここでOからBCへ下した垂線の足をHとすると△OBCの面積から(1/2)3*2*(√3/2)=(1/2)*√7*OH⇔OH=3√3/√7.
Aから直線BCへ下した垂線の足をH'とすると, △ABCの面積が最大となるためにはAH'が最大となればよい.
AがBCから見てOと同じ側にあるとき, 四角形AOHH'は台形で, OからAH'へ下した垂線の足をIとする.
△AOIに関して三角不等式からAO+OI≧AI⇔AO+HH'+OH≧AI+IH'⇔AO[定値]+OH[定値]+HH'[最小化]≧AH'[最大化]がいえる.
これからAH'を最大とするためにはHとH'が一致すればよい[等号成立しているので最大]. このときAH=4+(3√3/√7)
次に, AがBCから見てOと反対側にあるときを考える[状況が異なるので, この場合分けが必要です].
上と同様の考察[これで十分]からAHが最大だとなるのはO, H, Aがこの順に同一直線上にあるときで, AH=4-(3√3/√7).
この値は上の値より小さいので△ABCの面積は最大になりえない.
以上から△ABCの最大値は1/2*(√7)*{4+(3√3/√7)}=2√7+(3√3/2)と求まった.
[別解] 有名角があるので座標設定をする.
余弦定理からBC=√{OB^2+OC^2-2(OB・OC)}=√7
またベクトルOB, ベクトルOCのなす角θはcosθ=1/2⇔θ=60°
△ABCの面積は原点周りの回転に対して不変である[座標設定が一般性を失わない理由. 書く必要はありませんが, 意識してほしいです].
したがってO(0, 0), A(x, y), B(3, 0), C(2cos60°, 2sin60°)=(1, √3) [出来るだけ簡単な座標になるように設定する]と置いてもよい.
ここでOA=4からAは円C: x^2+y^2=4^2の周上にあることに注意する.
△ABCの面積が最大となるためにはAと辺BCの距離が最大になればよい. AからBCへ下した垂線の足をHとすると
AH=|√3x+2y-3√3|/√7となる.
絶対値と円Cの原点対称性に注意すると, x^2+y^2=4^2の下で√3x+2yが最小になればよい[負の場合を考えてみよう].
これはOAと直線√3x+2y=kが直交する時で, kが負の時である[教科書にもある線形計画法の基本問題です. グラフを書こう].
2x-√3y=0[原点を通り√3x+2y=kと直交する直線]とx^2+y^2=16との交点を考えると
(x, y)=(-4√3/√7, -8/√7)でこの時AHの最大値は4+(3√3/√7)となる.
以上から△ABCの最大値は1/2*(√7)*{4+(3√3/√7)}=2√7+(3√3/2)である.
***
(残念なことですが)平面幾何は苦手な人が多いので, こちらの方が安心感のある実戦的な解法といえるでしょう.
三角関数でゴリ押し計算することも出来ますが, 入試本番だと手間が大きくなって他の問題に時間をとれなくなります.
[採点者側としては問題に対する着眼力を知ることも出来ます]
上位大を目指していらっしゃるのなら, 別解を読むときに解法のコストについてしっかり意識してほしいです.
ありがとうございます😊