Тут и про момент силы, про векторное произведение и .про направляющие косинусы достаточно подробно.
AD является серединным перпендикуляром, поэтому АС=АВ (из равенства прямоугольных треугольников по двум катетам). По теореме Герона вычислим площадь ΔABC
Sabc=√16*4*6*6=48;
R=(10*10*12)/(4*S)=1200/(4*48)=6.25