f(b)=b/(a^2+b^2)^(3/2)の最大値を求めるには、
おそらく極値を求めればよいでしょう(微分して0になるbの値を求める)。
b*(a^2+b^2)^(-3/2)を微分すると、
f'(b)=(a^2+b^2)^(-3/2)+b*(2b)*(-3/2)(a^2+b^2)^(-5/2)
=(a^2+b^2)^(-5/2)(a^2-2b^2)
a^2=2b^2のときに、f'(b)=0になるので、
b=±a/√2(=±√2/2・a)で最大・最小(極大)です。・・・b=√2/2・aの方が最大
b ー∞ … -a/√2 … 0 … a/√2 … ∞
f'(b) ー ー 0 + + + 0 ー ー
f(b) ー0 … 省略 … 0 … 省略 … +0