Найдем из рассмотрения прямоугольного треугольника - см картинку
Треугольник со сторонами 5 12 13 - прямоугольный
проверяется по теореме пифагора
опускаем перпендикуляр на сторону а
смотрим рисунок
из подобия треугольников
(a-r)/r=a/b
(a-r)*b=a*r
a*b=r*(a+b)
r=a*b/(a+b)=5*12/(5+12)=60/17
Решение...........................