Подставим
, получим
, значит корень будет в любом случае равен
Рассмотрим выражение a^2+6a+5=k^2 , так как корни квадратного уравнения имеют вид x1,2=(1-a+/-k)/2 и целыми , то k- должно быть по крайней мере не иррациональным числом .
a^2+6a+5 = (a-3)^2-4=k^2
(a+k+3)(a-k+3)=4 , пусть они соотвественно равны x*y=4, рассмотрим случаи x*y={1*4, 4*1, 2*2, -2*-2, -4*-1, -1*-4} по порядку . Первый случай
{a+k+3=1
{a-k+3=4
Суммируя оба выражения ,получаем решения a=-1/2, k=-3/2, подставляя в общий вид корня уравнения x1,2 получим не целые значения , рассмотрев аналогично все случаи подходят лишь 1)x=2,y=2 и 2)x=-2,y=-2.
При
1) получаем решение a=-1, k=0
2) получаем решение a=-5, k=0
При этом корни целые.
Значит a=-1 , b=0 и a=-5, b=8.