Очень плохо видно степени, поэтому в С много начиркал
В С в самой первой дроби в знаменателе не а^2, а^3/Ошибся, когда писал
Уравнение высоты определяется как перпендикуляр к стороне АВ через точку С.
Уравнение окружности строите в центре отрезка CD с радиусом равным половине длины отрезка.
Система неравенств для каждой стороны определяет плуплоскоть, по отношению к которой(стороне( треугольник размещен. Постройте уравнения трех сторон и все будет видно.
То есть тебе нужно найти скалярное произведение:
а*b=
а*b (в модуле) * cosA=
*5 * (
/2 )=
= 5*3= 15