Выражение в скобках следует из основного тригонометрического тождества: синус квадрат альфа равен единице минус косинус квадрат альфа.
Угол у нас от нуля до пи/2, 1 четверть, синус больше нуля.
Приводим к общему знаменателю
7b²/b + (8a-7b²)/b= (7b²+8a-7b²)/b= 8a/b= 8*(-91)/40= -91/5= -18,2
Решение смотри во вложении