Применим формулу сокращённого умножения разность квадратов
a²-b²=(a-b)(a+b)
25а²-(а+3)² =(5a-(a+3))((5a+(a+3)) = (4a-3)(6a+3)
Наименьшее значение производной будет в точках перегиба функции, т.е. производная равна нулю. из графика могу предположить, что это точки
25-10х+х^2-2.5х-х^2=0
25-12.5х=0
12.5х=25
х=25÷12.5
х=2