Потому что книжные магазины, как правило, торгуют свеженапечатаными книгами, и там пахнет не книгами, а типографской краской, клеем и новой качественной бумагой (кстати, этот запах мне очень нравится). книги, хранящиеся в библиотеке, как правило, хранятся уже долгое время, они давно уже потеряли типографский запах, поэтому в библиотеках пахнет старой бумагой (что логично и имеет свою "изюминку"), а так же пылью, т.к., к сожалению, книги при хранении сильно собирают на себя пыль, которую даже в домашних условиях трудно вывести, а уж в условиях библиотеки, особенно не центральной , а какой-нибудь небольшой, вывести пыль вообще нереально. или требует больших затрат трудовремени.
В любом случае, оба этих запаха нравятся тем, кто любит читать книги, при чтении новой недавно напечатанной книги запах навевает мысли о новизне, ждешь чего-то нового от книги. А запах библиотечной книги наоборот наводит на мысль, что держишь в руках материал, проверенный временем.