客観式問題というのは説明文や途中式にヒントがあります. この問題では最後のf(5)=5!-{f(4), f(3), f(2), 1の関数}
という部分に注目すればいいでしょう. まず5!というのは{1, 2, 3, 4, 5}の並び替え全体[順列]です.
そこから要素が4個一致しない場合, 3個一致しない場合, 2個一致しない場合を引いていると解釈できます[包除原理].
[抽象的には{1, 2, 3,…, n}と並び変えた{a_1, a_2,…, a_n}との対応を考えているわけです.]
この考え方に沿ってf(3)を計算してみましょう.
まず全体の順列は3!で, 2個一致しない場合は一致しないものと一致する残り1個の組み合わせを考えればいいことになります.
一致しないものを先に並べて, 残りのものを埋めていくと考えれば[3C1は見にくいので]C(3, 1)f(2)個あることが分かります.
[aを一致するもの, bを一致しないものとします. {a_1, a_2}にb_1を入れると? ここはじっくり考えてみよう.]
あとはすべて一致する場合を除けばよくて, f(3)=3!-{C(3, 1)f(2)+1}=6-(3*1+1)=2と計算できます.
これを一般化すると
f(4)=4!-{C(4, 1)f(3)+C(4, 2)f(2)+1}=24-(4*2+6*1+1)=9.
f(5)=5!-{C(5, 1)f(4)+C(5, 2)f(3)+C(5, 3)f(2)+1}=5!-{5f(4)+10f(3)+10f(2)+1}=120-(45+20+10+1)=44.
と計算できます.
[訂正]
a, bが抽象的でとらえにくいのでしたら, 一致"しない"ものを赤玉, 一致"する"ものを白玉に置き換えればいいです.
この問題は非常に教育的なので, じっくり時間をかけてください. それだけ学ぶ内容があると思います.
[補遺] aを一致するもの, bを一致しないものとします. {a_1, a_2}にb_1を入れると?
a, bが抽象的でとらえにくいのでしたら, 一致するものを赤玉, 一致しないものを白玉に置き換えればいいです.
●●〇を一列に並べる方法は何通りありますか? これは既に勉強したようにC(3, 1)[=C(3, 2)]通りです.
ここまで書くと一般化した部分もすっきりするのではないでしょうか?
並び変えた列と{1, 2,…, n}を比較する. 異なる数字のときは●, 同じ数字の場合のときは〇に置き換える.
そうすると{●, ●, 〇,…, ●}のような列ができるわけです.
●玉の数がm個のときは完全順列はf(m)個で, 重複度は〇と●の組み合わせのC(n, m)=C(n, n-m)になっているわけです.
このように困難に直面したときは, 抽象的なものを具体的なものに置き換えて考え直すことも助けになります.
一通り解いて納得したら, 具体から抽象へ遡ることで理解を深めることも忘れないでください.