A5+a4b+a3b2-b3a2-ab4-b5 = 5^5 + 5^4•2 + 5^3•2^2 - 2^3•5^2 - 5•2^4 - 2^5 = 3125 + 1375•2 + 275•4 - 8• 25 - 5•88 - 176 = 3125 + 2750 + 1100 - 200 - 440 - 176 = 6159.
Пусть x2=a (a>=0), тогда
a2+2a-3=0
D=4+12=16
a1=1
a2=-3 - посторонний корень
x2=1
x=1 и х=-1
Ответ: -1; 1
Надеюсь все правильно и понятно :)