Это парабола, перед коэффицентом в квадрате стоит минус, значит ветви параболы направлены вниз, а дискриминант отрицательный, это означает, что у параболы нет пересечений с осью иксов, это возможно только если парабола принимает отрицательное значение при любом икс
2/a - (- 3a² - 10b²) / ab - 3a/b =
= (2b + 3a² + 10b² - 3a²) / (ab) = (2b + 10b²) / (ab) =
= (2b + 10b²) / (ab) = 2b(1 + 5b) / (ab) = 2(1 + 5b) / a
Попробуйте решить в специальном приложении Photomath