Посчитай просто и раздели на 2 варианта, где 0 единиц( например 60, 50, 40 и т.д), а второй где есть единицы (например 43, 78, 34 и т.д)
Перемножаем слагаемые, начиная с m: m*4+m*m-3*4-3*m=4m+m²-12-3m=m²-m-12
1) 1 целая 1 ; 1 целая 1
- -
4 5
2) 1 целая 3 ; 2 целых 6
- -
7 7
По логике должно быть число 6