А1=5, d-?
4*S3 = (S6-S3)
Sn = (2a1+(n-1)*d)*n/2
S3 = (2*5+(3-1)*d)*3/2 = (10+2d)*3/2 = 15+3d
S6 = (2*5+(6-1)*d)*6/2 = 30+15d
4*(15+3d) = 30+15d-15-3d
60+12d = 15+12d
С этого момента начинается бред какой то...
Условие точно правильное?
Ответ : У Коли осталось : 10 - 2 = 8 книг
На первое место мы можем поставить любое из 12 , на второе любое из оставшихся 11, на третье любое из оставшихся 10
12*11*10=1320