参考・概略です
●√{n²+96}=m (mは負でない整数) とすると
n²+96=m²
96=m²-n²
96=(m+n)(m-n)
よって、(m+n),(m-n)は、96の約数
●96の約数を考えると、96=2⁵×3 で
{1,2,3,4,6,8,12,16,24,32,48,96}
●{m+n,m-n}の組み合わせを考えると(m+n>m-n)
{m+n,m-n}={96,1}のとき、m,nは整数にならず不可
{m+n,m-n}={48,2}のとき、m=25,n=23
{m+n,m-n}={32,3}のとき、m,nは整数にならず不可
{m+n,m-n}={24,4}のとき、m=14,n=10
{m+n,m-n}={16,6}のとき、m=11,n=5
{m+n,m-n}={12,8}のとき、m=10,n=2
●以上から
自然数n=2,5,10,23
●確認
n=2のとき、√{n²+96}=√100=10
n=5のとき、√{n²+96}=√121=11
n=10のとき、√{n²+96}=√196=14
n=23のとき、√{n²+96}=√625=25