По теореме Виета можно посчитать что-либо, если одно из действий — сложение, а второе — умножение. Так что, возможно, ты неправильно записал второй знак.
Но тут решения получаются какие-то странные, так что, скорее всего, ты где-то ошибся)
Вот решение без использования теоремы Виета, просто через сложение уравнений в системе: