Множество точек, удовлетворяющих этому неравенству - это множ. точек плоскости, лежащих внутри окружности с центром в точке (2,2) и радиусом R=sqrt8, то есть это круг без границы (т.к. неравенство строгое).
Там сначала разность квадратов
(6х-1)(6х+1)=36х²-1
Потом скобки раскрываем
4х(9х+2)=36х²+8х
Следовательно
36х²-1-36х²-8х=-1
-8х=0
Х=0
tga^2+2tgactga+ctg^2-tga^2+2tgactga-ctga^2=4tgactga=4