Возведем а-b в квадрат.
(a-b)² = a²-2ab+b²⇒a²+b² = (a-b)²+2ab. Вычисляем.
a²+b² = 6²+2*10 = 56.
Sin x/2 = √3/2
x/2=(-1)^k P/3+Pk
x=(-1)^k 2P/3+2Pk
Если я правильно понял, а принадлежит промежутку (п;1,5П), т.е. третьей четверти, следовательно из того, что sin a = - корень3 на 2, а=п+п/3, т.е а=4п/3, и значит cos а = соs 4п/3 = - 1/2= -0,5