Это есть формула sin(a-b) = sina sinb - cosa sinb
Что тут нужно упрощать - непонятно.
в итоге получаем:
Ответ по сути сразу дан.
см.рисунок..............................
(-8x+3y)(5y+x)-(-6x+4y)(3y-5x)=
Разделим левую и правую части уравнения на cos²x ≠ 0, получим
Решим это уравнение как квадратное уравнение относительно tgx