всё легко и просто
Ответ: х книг на второй полке
2х книг на первой полке
2х - 5 книг на третьей полке
т.к. всего 75 книг, получаем уравнение:
х + 2х + 2х - 5 = 75
5х = 80
х = 80 : 5
х = 16
16 книг на второй полке
2 * 16 = 32 книг на первой полке
32 - 5 = 27 книг на третьей полке
О.Д.З.:
(х-3)(х-4)
х не = 3
х не = 4.
по моим подсчетам ответ: 4