Вот как надо это делать, на одном показываю подробно.
Пусть надо найти cos(A);
Строим 2 вектора, ИСХОДЯЩИХ из точки А - это АВ и АС. Чтобы найти координаты вектора АВ, надо из координат точки В вычесть координаты точки А (не наоборот!)
AB = (3; 11; 1); AC = (-3; 5; 7);
Теперь находим МОДУЛИ этих векторов (то есть длины).
IABI = корень(3^2 + 11^2 + 1^2) = корень(131);
IACI = корень(3^2 + 5^2 + 7^2) = корень(83);
и скалярное произведение
АВАС = -9 + 55 + 7 = 53.
cos(A) = 53/корень(131*83); (это примерно 0,508277839915763)
Далее
для С.
СА = - АС = (3; -5; -7); CB = (6;6;-6)
ICAI = корень(83); ICBI = корень(108) (упрощать не буду, это 6*корень(3), но ...:()
CACB = 30;
cos(C) = 30/корень(83*108); (это примерно 0,316862125262239)
для В.
ВА = (-3;-11;-1); BC = (-6;-6; 6)
IBAI = корень(131); IBCI = корень(108);
BABC = 78;
cos(B) = 78/корень(131*108) (это примерно 0,655763253996914)
Треугольник обычный остроугольный. Ничего выдающегося. Кто такие числа подбирал - ........ у меня нет слов.