В точках экстремума функции двух переменных выполнено два условия:
1) dz/dx = 0; dz/dy = 0
2) A = d^2z/dx^2; B = d^2z/(dxdy); C = d^2z/dy^2; Delta = AC - B^2
Если Delta > 0 и A > 0 - это минимум.
Если Delta > 0 и A < 0 - это максимум.
Если Delta < 0 - это стационарная (критическая) точка, но не экстремум.
Решаем систему из 1 пункта.
{ dz/dx = e^(x-y)*(x^2 - 2y^2) + e^(x-y)*2x = 0
{ dz/dy = -e^(x-y)*(x^2 - 2y^2) + e^(x-y)*(-4y) = 0
Выносим общий множитель за скобки
{ e^(x-y)*(x^2 - 2y^2 + 2x) = 0
{ -e^(x-y)*(x^2 - 2y^2 + 4y) = 0
e в любой степени > 0, поэтому
{ x^2 - 2y^2 + 2x = 0
{ x^2 - 2y^2 + 4y = 0
Вычитаем из 1 уравнения 2 уравнение
2x - 4y = 0
x = 2y
Подставляем в любое уравнение
4y^2 - 2y^2 + 4y = 0
2y^2 + 4y = 0
y1 = 0; x1 = 2y = 0
y2 = -2; x2 = 2y = -4
Получили 2 точки: (0; 0) и (-4; -2).
Проверяем 2 условие.
A = d^2z/dx^2 = e^(x-y)*(x^2 - 2y^2 + 2x) + e^(x-y)*(2x + 2)
A(0; 0) = e^0*(0 - 0 + 0) + e^0*(0 + 2) = 0 + 1*2 = 2 > 0
A(-4; -2) = e^(-4+2)*(16-2*4-2*4) + e^(-4+2)*(-8+2) = 0 + e^(-2)*(-6) = - 6/e^2 < 0
B = d^2z/(dxdy) = -e^(x-y)*(x^2 - 2y^2 + 2x) + e^(x-y)*(-4y)
B(0; 0) = -e^0*(0 - 0 + 0) + e^0*0 = 0
B(-4; -2) = -e^(-2)*(16 - 2*4 - 2*4) + e^(-2)*(-4)(-2) = 8/e^2
C = d^2z/dy^2 = e^(x-y)*(x^2 - 2y^2 + 4y) - e^(x-y)*(-4y)
C(0; 0) = e^0*(0 - 0 + 0) - e^0*0 = 0
C(-4; -2) = e^(-2)*(16 - 2*4 - 4*2) - e^(-2)*(-4)(-2) = 0 - e^(-2)*8 = -8/e^2
Проверяем 2 условие для точки (0; 0).
Delta = AC - B^2 = 2*0 - 0^2 = 0
Здесь ничего сказать нельзя, но скорее всего, это не экстремум.
Проверяем 2 условие для точки (-4; -2).
Delta = AC - B^2 = -6/e^2*(-8/e^2) - 64/e^4 = 48/e^4 - 64/e^4 = -16/e^4 < 0
Так как Delta < 0, то точка (-4; -2) не экстремум.
Таким образом, у этой функции экстремумов нет.
Я бы ещё дополнительно проверил точку (0; 0), но не знаю, как это сделать.