С точки зрения церкви Мазепа не сделал ни чего такого, что за что стоит отлучать его от церкви. Ему вменяли союз с еретиками и католиками, это при том, что Россия на то время сама заключала союзы как с католическими странами, так и с мусульманами.
Думаю, анафема это было в чистом виде политическое решение и Петр воспользовался им для решения своих целей.
Относительно поступка, интересно, а что могло успешного богатого стареющего (возможно умирающего) человека толкнуть на такой поступок? Может предательство со стороны Петра?
Если мыслить современными категориями "должность-кормушка-безбедная старость для себя и внуков", то поступок Мазепы смысла не имел. Но если говорить о том, что Мазепа был все же представитель украинской казачьей элиты, то его поступок вполне логичен.
Относительно "предательства", в Европе на то время, отношения между вассалами и сюзеренами были двухсторонними, нарушение договора одной стороной, расценивалось другой стороной как его расторжение. Одним из условий вассального договора была защита украинских земель, на просьбу Мазепы дать 10 тыс войска, Петр ответил "не могу дать и 10, защищайся как можешь". Разве это не нарушение обязательств перед своим вассалом?
КОнечно были и другие причины, поступка Мазепы, а не только разовый отказ Петра.
В любом случае, анафема Мазепе это был хитрый и вполне удачный для Петра политический ход.