Решение смотри в приложении
Область определения - суть множество "доступных" значений аргумента.
Понятно, что мы не можем поделить на ноль и вычислить квадратный корень из отрицательного выражения, не выйдя за пределы множества действительных чисел.
Таким образом:
Две системы.
либо
При решении первой:
x принадлежит [8;+inf)
При решении второй:
x принадлежит (-inf;2)
Объединяем эти множества.
x принадлежит (-inf;2)u[8;+inf)
inf - бесконечность
По теореме Виетта:
x1*x2=-5*8=-40 - коэффициент С
-(x1+x2)=-(-5+8)=-3 - коэффициент В
Уравнение:
x^2-3x-40=0