Ну для того, чтобы решить методом подстановки, нужно разбить пятерку на сумму чисел.
Например, 1+4=5, это последние цифры на которые могут оканчиваться произведения чисел на 3 и 4. При умножении 3 на 7 получим 21. А для четверки это будет 6. Получим 21+24 = 45. Значит не подходит.
Далее, 2+3 = 5. Нет такого множителя для четверки, чтобы произведение оканчивалось на 3, значит эти цифры тоже не подходят.
Далее, 3+2. Тут уже получше ситуация. 11*3=33, 4*8=32. 33+32=55.
Вот и вся подстановка. Дальше смысла нет. При сумме 1+4, числа только больше 55 получаются.
0,1xy²(-2x⁴+4x²y+y)= -0,2x⁵y²+0,4x³y³+0,1xy³
Вот твоё решение списывай на здоровье.