hで割る理由は、h/R(R+h)が不定形だからです。
不定形の解消のために両辺をhで割っています
ここで、√(2gR/(R/h+1))において、h以外を定数とみなすと、これは√(1/(1/h+1))の関数と大雑把には考えられます。
ところでh→∞のとき、1/hはどうなるでしょうか?
適当に大きな値を代入してみるとわかりますが、1/h→0となります。
よって√(1/(1+h))→1となるので、解答のようになるわけです。
このことに興味があれば、数IIや数IIIでならう極限を調べてみると良いですよ