Если это система из трех уравнений, то она не имеет решения. Ибо первые два уравнения дают х=0, у=6. Их произведение дает 0.
Если же это система типа
х+у=6
х*у=10
то она тоже не имеет решений. И вот почему:
х=6-у
у(6-у)=10
-у²+6у-10=0
Дискриминант здесь меньше 0, решений нет.