参考・概略です
△OHO'∽△ABCにおいて
AB:OH=AC:OO'=BC:HO'を利用し
{AB=3,AC=5,OO'=2r,BC=4}より
3:OH=5:2r=4:HO' で
3:OH=5:2r から
5OH=6r
OH=(6/5)r … ①
5:2r=4:HO' から
5HO'=8r
HO'=(8/5)r … ②
円Oと辺ABの接点をP'
円O'と辺BCの接点をQ'とすると
接線の長さが等しいので
AP=AP'…③
CQ=CQ'…④
Hから辺AB,BCに下した垂線の足を
それぞれH',H"とすると
H'B=BH"=H"H=HH'=r … ⑤
辺ABについて考えると
AB=AP'+P'H'+H'B で、仮定と③①⑤を利用し
{AB=3,AP'=AP,P'H'=OH=(6/5)r,H'B=r}より
3=AP+(6/5)r+r で
AP=3-(11/5)r … ⑥
辺CBについて同様にして考えると
CB=CQ'+Q'H"+H"B で、仮定と④②⑤を利用し
{CB=4,CQ'=CQ,Q'H"=HO'=(8/5)r,H'B=r}より
4=CQ+(8/5)r+r で
CQ=4-(13/5)r … ⑦
辺ACについて考えると
AC=AP+PQ+CQで、⑥⑦とPQ=OO'=2rを利用し
{AC=5,AP=3-(11/5)r,PQ=OO'=2r,CQ=4-(13/5)r}より
5={3-(11/5)r}+2r+{4-(13/5)r} で
(14/5)r=2
r=5/7
