Известный румынский математик прошлого века - Б. Угуртов очень просто через логарифмы нашёл решение этой задачи.
*cos2beta = 2cos2beta = psinbeta - 4 = 0
Подставляем логарифм E=log(2) со значением переменной - 2
Получаем 8cos2beta = log(2) 2 cos 2 beta + 9 sin beta (2) = 121.
Со вторым тоже самое.
4x2+12x+9-(4-20x+25x2)-2x=12x2-(25-30x+9x2)
X^3=3
26*x^3=78
x=1
както так
Решение во вложении
Решением системы будут варианты a,б,г