Я башкир. В башкирском языке есть слово "бабай", и имеет оно несколько значений.
1) В башкирских семьях обращение к дядям и тётям (братьям или сестрам отца или матери) зависит от того, старше они или младше того родителя, чьими братьями (сестрами) они являются. Так к старшим братьям отца или матери обращаются "бабай" (произносится немного иначе, но по-русски будет где-то так). К младшим братьям отца или матери обращаются "абый" (или "абзый"). К старшим сестрам отца или матери обращаются "эбий" ("абий"), к младшим сестрам - "апа".
2) Тесть и тёща по-башкирски называются "бабай" и "эбий" ("абий").
3) Обращение к мужчине (если он как родственник не имеет специфического обозначения) тоже зависит от его возраста (относительно обращающегося). Если мужчина явно намного старше Вас, то обращаются "бабай", если ненамного старше, то "абый" ("абзый").
У татар тоже так. Возможно и у других тюркоязычных народов.
Естественно, то же самое было и несколько веков назад. А поскольку Русь очень долго была в тесном контакте с тюркоязычной Золотой Ордой, да и современные татары, башкиры.тесно общаются с русскими, то многие тюркоязычные слова перешли в русский язык и стали в нем "своими".
В последние годы многие башкиры (и наверное не только башкиры) не только в смешанных, но и в мононациональных семьях разговаривают по-русски, дети совсем не знают башкирского языка. Тем не менее, родители обучают их обращаться к родственникам по-башкирски. В устах детей "абий" и "бабай" превратились в "абийку" и "бабайку". Таким образом, для тюркоязычных "бабайка" - это родственник, а для нетюркоязычных - это просто посторонний дядя. Многие использовали образ "бабайки" для запугивания непослушных детей. ("Вот если не будешь спать (кушать и т.п), то придёт "бабайка", и заберёт тебя" или что-то в этом роде.) Поэтому у русских безобидное слово "бабай" "бабайка" приобрело некую связь с отрицательными мифологическими персонажами (водяной, леший, Кошей и т.п.).