Сразу ответ с объяснениями:
1. =3x^2 (3x^3-x^2-9+5)=3x^2 (3x^3-x^2-4)
2. =1,6ab (a^2-2,4ab+11,4b^2-b3
3. =2,5xy (x^3-15,5x^2-13,5x-0,5y)
Вроде-бы правильно
(b-8)²-(64b)=(b²-2b*2*8+8²)-(64b)=(b²-2b*16+64)-(64b)=(b²-32b+64)-(64b)=b²-32b+64-64b=b²-(32b+64b)+64=b²-96b+64