Есть простая формула, по ней всё и находится:
Sn = (2*a1 + d*(n-1))*n/2
S25 = (2*18 + (-2)*24)*25/2 = -150
Пусть количество книг по алгебре х, а по геометрии у. Тогда у=3\5х.
После перестановки книг имеем х-2=у+6.
Имеем систему уравнений. Подставим первое уравнение во второе.
х-2=3\5х+6
5х-10=3х+30
2х=40
х=20 (книг) по алгебре было
у=3/5*20=12 (книг) по геометрии было
20+12=32(книги) всего было