Уравнение имеет два корня,когда дискриминант больше 0.В твоем случае здесь походу по теореме виета надо делать.
1) 3cos²x - 5(1 - sin²x) = 3cos²x - 5cos²x = - 2cos²x
2) √(2 - √5)² + 2⁴√25 = |2 - √5| + 16 · 5 = √5 - 2 + 80 = √5 + 78