приводишь все к общему знаменателю,получается:cos (3п\12)+cos(18п\12)+cos(4п\12)=cos (25п\12),вроде так.
x^2-y^2=(x-y)(x+y)=53
53 простое число,значит одна из скобок должна быть равно 54,а другая 1.
в случае х-у=53 получаются решения не из кольца натуральных чисел,оговоренного в условии.
в случае х-у=1,х+у=53 получаем х=27,у=26,это и есть единственная удовлетворяющая условию пара чисел