Сам угол искать не надо... надо сравнить углы по величине...
а величину углов можно сравнить, зная, например, косинусы углов (чем больше косинус - тем меньше угол)...
а косинусы углов можно найти, например, из скалярного произведения векторов, зная. что скалярное произведение двух векторов равно произведению величин модулей на косинус угла, между векторами...
Покажем как найти косинус угла ABC
сначала найдем вектора, образующие угол:
Теперь найдем длины векторов
Скалярное произведение через координаты векторов:
Скалярное произведение через косинус угла
Ну и теперь найдем косинус угла
На самом деле красивый косинус, позволяющий даже точно определить размер угла
НО!!! для решения задачи он нам не нужен.... нужны остальные косинусы...
Дальше как обещала - сама ))))