Давайте домножим все уравнение на 12,чтобы убрать дроби и допустить меньше ошибок:
Как мы видим,дискриминант действительно отрицательный,а значит,и корней нет)
-1/4x2-xy-y2=-1/4*1296-36*(-12)-144=-324+432-144=-36