Дискриминант должет быть отрицательным,значит
5x^2-6ax-1=0
D=36a-4*5*(-1)<0
36a<20
=>(От минус бесконечности;0]
Ответ: x + 1/2 = +/- √2/2
x1 = - √2+1/2
x2 = √2-1/2