Предполагаю, что нужны только вещественные решения системы.
Тогда умножим второе уравнение системы на -4; сложим с первым, получим:
приведем к общему знаменателю, затем отбросим сам знаменатель за ненадобностью, в результате имеем:
Делим на , вводим замену , получаем
Второй корень приведет к комплексным корням, этот случай я не рассматриваю. Первый корень хороший, из него имеем
Для начала возьмем со то что со знаком плюс, подставим это в первое выражение системы:
тогда
Если взять знак минус, придем к каким-то комплексным решениям, я это не рассматриваю. Итого ответ: