Что такое "жёсткая", а тем более, "очень жёсткая вода"? Это вода, в которой РАСТВОРЕНО много солей металлов (катионов с зарядом более 1, т.е. двух-, трёх- и более зарядных катионов). А фильтр (в обычном понимании) может отделить от воды только то, что НЕ РАСТВОРЕНО, т.е. песок, волокна, всякий мусор и т.п. РАСТВОРЁННЫЕ вещества фильтр никакой фильтр удалить не может. Их можно удалить ХИМИЧЕСКОЙ ОБРАБОТКОЙ. Существуют устройства, которые могут с помощью химических реакций, заменить "жёсткие" катионы (например кальций или магний) на "мягкие", (например натрий, калий аммоний, или вообще на протоны). Но в любом случае это обязательно связано "...с постоянной покупкой и заменой картриджей...".
Без картриджей наверное могут работать только устройства, использующие принцип "обратного осмоса". Сам лично с ними дела не имел, но из общих принципов понятно, что это должны быть "ультрафильтры" с полупроницаемой мембраной, и для их эффективной работы нужны высокие давления, наверное более высокие, чем может создать Ваш скважинный насос.
Так что либо покупать устройства (хотя они все же неправильно называются фильтрами) обратного осмоса и насос для создания повышенного давления, либо смириться с регулярной заменой картриджей.