回答

f(b)=b/(a^2+b^2)^(3/2)の最大値を求めるには、
おそらく極値を求めればよいでしょう(微分して0になるbの値を求める)。
b*(a^2+b^2)^(-3/2)を微分すると、
f'(b)=(a^2+b^2)^(-3/2)+b*(2b)*(-3/2)(a^2+b^2)^(-5/2)
  =(a^2+b^2)^(-5/2)(a^2-2b^2)
a^2=2b^2のときに、f'(b)=0になるので、
b=±a/√2(=±√2/2・a)で最大・最小(極大)です。・・・b=√2/2・aの方が最大

b   ー∞ … -a/√2 … 0 … a/√2 …  ∞
f'(b)   ー ー  0  + + +  0  ー ー
f(b)   ー0 …  省略 … 0 …  省略 … +0

この回答にコメントする
疑問は解決しましたか?