(x + y)² + (х² - 4 y²) + 5xy=
х²+2ху+у²+х²-4у²+5ху=
2х²+7ху-3у²
(a-1)(a+2)+(a+1)(a-2)=a^2+a-2+a^2-a-2=2a^2-4=2(a^2-2)
Мне кажется, что это неравенство решается именно таким образом.
Я про ОДЗ забыл: ответ будет [-5;-3)u(-3;+бесконечности)
1)берешь производную функции
2)приравниваешь производную к 0
3)получившиеся корни(корень) смотришь, чтобы подходили в промежуток, подставляешь вместо y подходящий корень
4)считаешь y на концах отрезка, т.е. y(π/6) и у(5π/3)
5)среди 3 вариантов выбираешь наим и наиб значения