Тема - матрицы. Я думаю, что здесь ищут определитель матрицы.
Решение смотри на фотографии
Из теоремы Виетта следует, что :
x1+x2 = -7
x1*x2=-11
(x1-x2)^2 = x1^2-2x1x2+x2^2=x1^2+2x1x2+x2^2-4x1x2=(x1+x2)^2-4x1x2=
=49+44=93
Ctg(-4/3p)= -ctg(π+π/3)=-ctgπ/3=-√3/3