Если книга очень хорошая и будет пользоваться большой популярностью у читателей, и при этом хватает денег на её издание, то очень даже имеет смысл издавать таковую. Ведь при этом весь доход от реализации всего тиража пойдёт в карман автору.
При издании за счёт издательства автор получает лишь определённый процент от этого дохода или оговоренную сумму согласно договора.
Не следует забывать и расходы на рекламу. Во втором случае они ложатся на издательство.
Но вот вопрос: А как автору определить, что его книга из разряда шедевров? Ведь любой, написавший книгу будет считать, что она великолепна и достойна массового тиража к великой радости читателей.
Как вариант ответа: Первый тираж нужно издавать не за свой счёт, а за счёт издательства. Если книга была принята читателями доброжелательно, то далее имеет смысл издавать её за свой счёт.
Но... если автор имеет сумму, необходимую для издания достаточно большого тиража, значит, он и без своего литературного творчества неплохо имеет, и на то творчество у него, как правило не остаётся времени.
Для распространения книги без расчёта на доход, и даже с потерей денег, есть интернет. В него можно сваливать что угодно. Включая заведомое барахло. Имеется куча литературных сайтов, куда можно отправлять продукты своего творчества. И там и популярность смотреть. Если результаты литературных потуг автора приемлемы, то и об издании за свой счёт на бумаге можно подумать. Если деньги для этого есть, разумеется. Если денег нет, то не надо держаться - любое издательство с радостью примет к печати пользующееся популярностью произведение. Пусть и меньше будет в результате на карман автору, но заметно больше, чем ноль.