最大公約数が1というのは整数であることが前提なので、最初に「帰納的にa_n,b_nは1以上の整数である」と断っておく方が良いと思います。
また帰納法の仮定は良いのですが、その次の行の「つまりa_k=Ab_k (Aは0でない整数)」はどういうことでしょうか？
もしこの式が成り立っているとするとa_kはb_kで割り切れるということですので、a_kとb_kの最大公約数はb_kであるとなってしまい、b_kは漸化式の形から増加列であるのですぐに互いに素ではないnがあることになってしまいます。
ですので、「互いに素」という条件からの式の起こし方を見直す必要があります。
取り敢えず思いついたアイデアとしては
シンプルにa_{n+1}=Ga，b_{n+1}=Gb (aとbは互いに素)としてG=1であることを示すか、ユークリッドの互除法を活かす、もしくは(1)を使うなどがあり、どれもいけると思います。
今回も少し上からの物言いになってしまいすみません。
分からない等ありましたら気軽に質問してください。
解答は1行のみで
｜(a_n)²−2(b_n)²｜の約数であるから最大公約数が1である
とあるのですがこれはどのような意味でしょうか。理解が足りなくてすみません
おそらくa_nとb_nの最大公約数をgとしてa_n=ga,b_n=gb(a,bは互いに素な整数)と置いたとき、
|a_n^2-2b_n^2|
=|g^2a^2-2g^2b^2|
=g^2|a^2-2b^2|
となるので(1)から g^2|a^2-2b^2|=1
よってgは1の正の約数となりg=1
ということを1行で済ましているのだと思います。
普通に帰納法でも解くことはできます。
最大公約数を置いて漸化式を使い、a_n,b_nに関する連立方程式を解いてもできますし、せっかくなのでユークリッドの互除法の解法を紹介しておきます。
n=1のときは明らか
n=kのときa_kとb_kが互いに素と仮定
n=k+1のとき
a_{k+1}=a_k+2b_k=(a_k+b_k)+b_k=b_{k+1}+b_k
よりa_{k+1}とb_{k+1}の最大公約数はb_{k+1}とb_kの最大公約数に等しい
b_{k+1}=b_k+a_k よりb_{k+1}とb_kの最大公約数は
b_kとa_kの最大公約数に等しく、これは仮定より1
よってa_{k+1}とb_{k+1}の最大公約数は1
にしても、解答が1行のみなのはちょっと配慮が…笑
解説ありがとうございます！とても分かりやすかったです。1行だけで他の解答も出されてないですし、ちょっと途中の計算も出して欲しかったところではあります…笑
あ、それです。a_(n+1)のような表現をしたかったのです。色々ごちゃごちゃになってました