С точки зрения экономии энергии лучше выключать. Допустим Вы выключили водонагреватель на несколько часов, и бак с тёплой водой предоставлен сам себе. Он теряет тепло главным образом двумя путями: за счёт конвекции и путём излучения.
<hr />
1) Потери тепла за счёт конвекции пропорциональны разности температур воды в баке и воздуха. Понятно, что когда вода чуть остынет, то потери тепла будут уменьшаться, и чем больше времени прошло с момента выключения, тем меньшее количество энергии будет теряться за одинаковые промежутки времени. Потери тепла за счёт конвекции нагляднее можно изобразить графически. Начертите оси координат, по оси абсцисс отложите время, а по оси ординат либо температуру, либо количество потерянного тепла в единицу времени. Допустим, вначале температура воды в баке имела какое-то значение. Отметьте это значение на оси ординат. Теперь проведите прямую, параллельную оси абсцисс, а под ней проведите линию, которая постепенно понижается. Проведите обе линии на время Вашего отсутствия (времени нахождения водонагревателя в выключенном состоянии). Потерянное тепло изобразится площадью под этими линиями. Ясно, что при постоянно включенном водонагревателе потеря тепла изобразится площадью прямоугольника, и при выключенном - площадью криволинейной трапеции, и в любом случае эта площадь будет меньше площади прямоугольника.
<hr />
2) Потери тепла путём излучения пропорциональны четвертой степени абсолютной температуры. Понятно, что при понижении температуры эти потери тоже снижаются. Если по аналогии с вышеописанным графиком, отобразить потери тепла за счёт излучения графически, то тоже получим, что при постоянно включённом водонагревателе потери будут больше, чем при выключенном.
<hr />
Итак, потери тепла обоими путями будут больше при постоянно включённом водонагревателе. Конечно, в зависимости от качества теплоизоляции бака, абсолютная величина потерь может быть различной, но в любом случае, при чисто теоретическом рассмотрении при выключении водонагревателя потери будут меньше.
Ну и с точки зрения безопасности, наверное тоже лучше выключать. Но не только электричество, но закрывать и подачу воды.