Ну, Вас не плохо готовят.
Пусть p = (a + b + c)/2; - ПОЛУпериметр, r - радиус вписанной окружности, r1 = 5, r2 = 20, r3 - радиусы вневписанных окружностей.
Аналогично формуле S = r*p очень легко доказать формулы
S = r1*(p - a) = r2*(p - b) = r3*(p - c);
{могу и показать, как это получается, только без рисунка :)
(достаточно доказать одно соотношение - остальные получаются заменой обозначений).
Пусть окружность с центром О касается стороны а, противолежащей углу А, и продолжений сторон b и с. Тогда площадь треугольника АВС равна сумме площадей треугольников ABO и ACO минус площадь треугольника BCO, у всех этих треугольников высоты равны r1
Sabc = Sabo + Saco - Scbo = (c*r1)/2 + (b*r1)/2 - (a*r1)/2 = r1*(b + c - a)/2 = r1*(p - a)}
Отсюда S/(p-a) = r1; S/(p-b) = r2; S/(p-c) = r3;
Если это все перемножить, то
r1*r2*r3 = S^3/((p-a)*(p-b)*(p-c)) = S^3*p/(p*(p-a)*(p-b)*(p-c)) = S^3*p/S^2
(была использована формула Герона для площади треугольника)
r1*r2*r3 = S*p;
Теперь надо вспомнить, что треугольник прямоугольный (до этого прямоугольность нигде не использовалась).
В этом случае радиус r3 окружности, касающейся гипотенузы и продолжений катетов, просто равен p. Доказать это можно кучей способов, - к примеру, так
поскольку p - c = (a + b +c)/2 - c = (a + b - c)/2 = r, а r3*(p - c) = S, то r3*r = S, откуда r3 = p;
Итак, S = r1*r2 = 100 кв.см.
Я считал, что r1= 5 и r2 = 20 - радиусы вневписанных окружностей, касающихся катета и продолжений другого катета и гипотенузы. Если это не так, задача на много сложнее.