Чтобы не запутаться при приведении обозначу s = sinx, c = cosx.
Разложим cos3x = cos2x * c - sin2x * s = (c * c - s * s) * c - (c * s + s * c) * s =
c^3 - 3 * c * s^2
Теперь разложим sin4x
sin4x = sin3x * c + cos3x * s = (вместо cos3x подставим уже посчитанное значение)
= (sin2x * c + cos2x * s) * c + (с^3 - 3 * c * s^2) * s =
= (2 * s * c * c + (c^2 - s^2) * s) * c + (с^3 - 3 * c * s^2) * s =
= (2 * c^2 * s + c^2 * s - s^3) * c + c^3 * s - 3 * c * s^3 =
= 3 * c^3 * s - c * s^3 + c^3 * s - 3 * c * s^3 =
= 4 * c^3 * s - 4 * c * s^3
Теперь разложим cos4x
cos4x = cos3x * c - sin3x * s = (воспользуемся уже посчитанным)
= (c^3 - 3 * c * s^2) * с - (3 * c^2 * s - s^3) * s =
= c^4 - 3 * c^2 * s^2 - 3 * c^2 * s^2 + s^4 =
= c^4 + s^4 - 6 * c^2 * s^2 = c^4 + 2 * c^2 * s^2 + s^4 - 8 * c^2 * s^2 =
(c^4 + 2 * c^2 * s^2 + s^4 не что иное как (с^2 + s^2)^2 а сумма квадратов косинуса и синуса равна 1)
= 1 - 8 * c^2 * s^2
Теперь все подставим в исходное выражение и раскроем скобки
(4 * c^3 * s - 4 * c * s^3) * c + 6 * (c^3 - 3 * c * s^2) - (1 - 8 * c^2 * s^2) * s =
= 4 * с^4 * s - 4 * c^2 * s^3 + 6 * c^3 - 18 * c * s^2 - s + 8 * c^2 * s^3 =
= 4 * c^4 * s + 4 * c^2 * s^3 + 6 * c^3 - 18 * c * s^2 - s =
= 4 * c^2 * s * (c^2 + s^2) + 6 * c * (c^2 + s^2) - 24 * c * s^2 =
= 4 * c^2 * s + 6 * c - 24 * c * s^2 - s =
= 4 * (cosx)^2 * sinx + 6 * cosx - 24 * cosx * (sinx)^2 - sinx
Вот такое выражение. Чем оно красивее исходного, не знаю. Единственно, избавились от троек и четверок под косинусами и синусами. Ожидал чего-то более короткого. Ответ подстановкой x проверил - с исходником сходится.