Чтобы не было корня, возведи все в квадрат, а потом через дискриминант получишь ответ
Область значений y=cosx и cos(x+π/3) =[ -1; 1]
область значений y=2cos... =[ -2; 2]
область значений y=2cos..-5 = [ -7; -3]
<span>(а - 9)^2 - (81 + 2а)=а^2-18a+81-81+2a=a^2-16 a</span>