正10角形は書くのが難しいので、一旦正六角形で考えてみますね。
2辺を共有するとか、共有しないというのは写真のような状態ですね。
(1)書いてあるように、まず共有させる1辺を決めます。あと、もう一頂点選んだら三角形ができますね。10頂点あるうち、1辺=2頂点選んでいるので残りの8つの頂点から選ぶことになります。2枚目の写真のように、A,Bと隣り合う頂点を選んだら、2辺と共有してしまいますね。8頂点のうち、辺と隣あう2頂点を除いた6頂点から選ぶので、三角形のでき方は6通りありますね。
一方、辺は10本あるので辺の決め方は10通りあって、その10通り各々に6通りがあるから、60通りですね。
(2)辺と共有しないものを数えるのは難しいので、辺を共有する場合の余事象として考えますね。
三角形の作り方は10頂点から3頂点を選ぶ10C3=120通りですね。頂点の選び方について、例えばA→B→Cと選んでもB→A→Cと選んでも、結局同じ三角形ができるから、PではなくCです。
1辺を共有するのは60通りと求めたので、あとは2辺を共有する場合を求めます。
さっきは8頂点のうち、辺と隣あう2頂点を除いた6頂点から選び6通りでしたが、今度は隣り合う方を選ぶから選び方は2通りですね。それが10辺分あると考えたら20通りです。しかし、ここで注意しないといけないのはダブルカウントしてしまっているということです。正六角形の例で考えたらわかると思いますが、例えば辺ABに対して隣り合うFを選んだものと、辺FAに対して隣り合うBを選んだものは結局同じなのに2回カウントすることになってしまっていますね。よって20÷2=10として重複分を考慮します。
したがって120-(60+10)=50通りです。