Казак Мамай - это вообще фольклорный персонаж, не прослеживается даже исторического прототипа..
Так что вариант с "казаком Мамаем" - просто придумка, которая не может рассматриваться серьёзно..
Иван IV по роду относится к потомкам Рюрика, он Рюрикович (и если Рюрик-полумифический персонаж, то Владимир и Ярослав Мудрый - предки Ивана IV, которые реально существовали), поскольку род в большинстве монархий ведётся по отцу..
Если считать по матери Ивана - Елены Глинской, то есть мнение, что предки Глинских ведут свой род от Золотой Орды, в частности от темника Мамая..
Но здесь нужно заметить, что доподлинно известный Глинский - Борис Глинский служил польскому королю Владиславу III..
Также точно известно, что фамилия Глинских произошла от их владения - города Глинск, вообще многие европейские дворянские фамилии происходят от владений, им некогда принадлежавшим..
Затем Глинские подняли бунт против власти и бежали в Великое княжество Московское, где и поступили на службу, здесь они считались "худородными", происхождение не знатное..
Поэтому очень обоснована версия, что Глинские самим выдумали себе знатное происхождение от Золотой орды, да ещё от темника Мамая, дабы поднять свой статус, тогда это практиковалось часто, по крайней мере в Государевой родословице вообще про происхождение Глинских ничего не написано..Наиболее вероятно, что Глинские берут свой род с польских или литовских худородных дворян или даже с холопов, пробившихся на службу и добившихся себе (а может и купивших) дворянское звание..