Посмотрите предложенный вариант, проверка не проводилась.
Интеграл после обратной замены брался как биномиальный (замена показана в первых квадратных скобках).
3*3/1=9 см - шуканий выдрызок
..........................................................
2816/11
256
22
2794
55
2739
66
2673
Ищи производную
y'=(x^2-64) : x^2 = (x-8)(x+8) : x^2
Приравниваем к нулю..
Ищем корни..
x=8
x= -8 Из них подходит тоолько -8
Теперь ищи y(-18),y(-8),y(-4)
y(-18) ~ -21
y(-8) = -16
y(-4) = -20
Явно наибольшее из них -16
1)9*11=99(руб)- гвоздики ост 1 руб
2)12*8=96(руб)- ромашки ост 4 руб