Очень интересный вопрос, не имеющий однозначного ответа.
В христианской религии с числом 40 ассоциируются несчастья и бедствия. 40 лет Моисей водил евреев по пустыне, 40 дней продолжался великий потоп, 40 дней после своего крещения Иисус находился в пустыне. В христианство ассоциация числа 40 с несчастьями пришла скорее всего из древнееврейского языка.
В нем число 40 обозначается буквой "Мем", которая находится посередине алфавита. Сочетание "Мем" с первой буквой алфавита "Алеф" и последней "Тав" дает слово "Эмет" (правда, истина), только с первой - слово "Эм" (мать), а только с последней - слово "Мет"(смерть). То есть "Мем" и 40 символизируют момент перехода от прошлого к будущему, это символ настоящего.
У славян число 40 обозначалось как ни странно так же буквой "М"-"Мыслете". По всей видимости у древних славян была 40-ричная система исчесления (сорок сороков) и "Мыслете" - 40 в жизни человека так же ассоциировался с переходом, окончанием(смертью) одного периода и началом следующего. Отсюда и поминки на 40 день, и проверка мощей на святость - "нетленность" так же на 40 день. Кстати интересно созвучие "Сорок" и "Рок" неотвратимость судьбы, ассоциирующаяся с несчастьем.
В древних картах "Таро" та же связь - "Смерть" - "М" - 40
Так что можно предположить, что в древности возраст в 40 лет являлся возрастом перехода души в иное состояние, переосмысления, смерти старого и начала нового (существует утверждение что в 40 лет человека покидает ангел хранитель). И празднуя 40 лет можно досрочно привлечь внимание Смерти, или Смерть может расценить веселый праздник как вызов себе.
И еще одно, запрет на празднование 40-летия относится только к мужчинам и не касается женщин. Это соотносится с тем что и в языческих славянских и первоначально в христианской религии женщина считалась существом, не имеющим души.