✨ ベストアンサー ✨
そこまではOKです。
原点でのヘッセ行列は
-4 +4
+4 -4
ですから、この関数の原点での振る舞いは大体
2(-x^2+2xy-y^2)
ということです。(同じヘッセ行列をもつ二次形式による近似)
2(-x^2+2xy-y^2)=-2(x-y)^2
となりますから、このグラフを考えれば、y=x方向に平坦でy=-x方向に減少するほうな放物線柱とわかります。
(二次形式の対角化を考えてもよい)
ここまでの考察は、二次形式による近似で、実際の関数の形はこの近似から少しずれます。(高次の効果)
実はヘッセ行列式が0になる場合は、高次の項の効果も考えないと極値判定ができない場合なのです。
よって上で考えたy=xとy=-x方向の関数の増減を近似なしで考える必要がでてきます。
すなわち
f(x,x)とf(x,-x)
の関数を考えて、y=xとy=-x上の振る舞いを求めます。
結果は極大でも極小でもないことがわかります。
ほへー、なるほど
とても難しいですね、自分自身まだあまりヘッセ行列について理解しきれていないので、少し出直してきます。素晴らしい回答ありがとうございます😭