Книга бывает неоконченной, строго говоря, по трем причинам.
Первая - внешняя и самая маловажная: прекратил существование журнал, где печаталось произведение; автор умер; его арестовали; он испугался и в ту же ночь в чем был уехал в Баден-Баден и т.д.
Вторая причина более редкая и более серьезная: автору надоело, он разочаровался и др. Случаев такого охлаждения литература знает довольно много. Пример - "Черная металлургия" Фадеева. Кстати, это очень частый случай для советской эпохи: автор ставил идеологическую задачу, и вдруг идеология сменилась. Стало непонятно, о чем писать.
Третий случай самый интересный: роман оказывается шире изначальной авторской задачи и даже, страшно сказать, изначальных авторских способностей. Автор предполагал, что уложится в романную форму, что фабула компактна и замкнута. Но тут получается, что героя надо убить, а он не убивается. Пример - случай Клима Самгина. Он не может умереть некрасиво, все время думает о том, что о нем думают окружающие. Любые попытки разделаться с Самгиным оказались бесполезны. Автор умер, а герой его живехонек.
Или, например, "Очерки об Австро-Венгрии" Музиля: автор полагал, что ему удастся охватить все проблемы Австро-Венгрии начала века, и вдруг он чувствует, что романная форма трещит под этим напором. Точно так же Шолохов чувствует, что не может закончить "Они сражались за Родину" (по всем трем причинам).
И конечно, во главе всех этих неоконченных сюжетов стоит Гоголь со вторым томом "Мертвых душ".