В числителе просто квадратное уравнение. Находите корни через дискриминант. и записываете в виде a(x-x1)(x-x2), подставляете в ваш пример и сокращаете.
1) = 5√(2² * 3) - 2√(4² * 3) + 2√(3² * 3) = 10√3 - 8√3 + 6√3 = 8√3
2) = 0,1√5m - √(0,3² * 5)m + 2√(4² * 5)m = 0,1√5m - 0,3√5m + 8√5m = 7,8√5m
F(x)=(x/4+5) = х в квадрате / 8 + 5х