Задача решаемая, и я решил!)
Приступим!
z^2>=0, так как квадрат числа всегда положительный, или равен 0.
xy-z^2=1 - отсюда следует, что xy>=1
xy>=1 отсюда следует что либо x и y либо оба положительны, либо оба отрицательны, но по скольку мы знаем что x+y=2 следует, что и x и y положительные числа, так как из суммы отрицательных чисел, положительное число 2 никак не получиться. У нас появилась новая система уравнений, неравенств. - xy>=1; x+y=2; x>0; y>0, z пока оставим в покое. Отбросим пока x>0; y>0, и решим систему уравнений, неравенств - xy>=1; x+y=2. xy>=1 это тоже самое что y>=1/x, отсюда можно сделать функцию y=1/x - график данной функции - стандартная гипербола. А x+y=2 это тоже самое что y=2-x -стандартная линейная функция поднятая на 2 единицы вверх и перевернутая. Я Сделал себе рисунок этих графиков, что бы понять, что они пересекаются всего в 1й или 2х точках.
Теперь уже неравенство нам не нужно и мы переходим к системе уравнений, что бы вычислить данную точку - y=2-x;y=1/x - данную систему уравнений уже просто решить - 2-x=1/x отсюда следует, что x(2-x)=1 следовательно -x^2+2x-1=0 стандартное квадратное уравнение (мог расписать его решение, но мне лень), корень которого x=1, корень тут всего 1 оказался.
Значение x мы знаем теперь подставляем его в x+y=2, следовательно 1+y=2 отсюда следует, что y=1. Теперь зная x и y можно без труда вычислить z - xy-z^2=1 следовательно z^2=0 а следовательно z=0. Вот вам и решение x=1 y=1 z=0.