В 1897 году стараниями основателя и секретаря Русского Археологического общества, крупного нумизмата и геральдиста Российской империи барона Бернгарда (Бориса Васильевича) Кёне была проведена работа по упорядочению геральдических правил и традиций, в том числе им был создан в соответствии с геральдическими правилами Государственный Герб Российской империи.
Одним из элементов герба было размещение на груди двуглавого орла герба Москвы.
А вот на гербе Москвы был помещен
Теперь о том, почему Георгий скачет то в правую, то в левую от зрителя стороны.
По общепринятым геральдическим правилам, живое существо, изображенное на гербе должно быть повернуто в правую геральдическую сторону (т.е. влево от зрителя). Это правило было установлено для того, чтобы фигура, изображенная на рыцарском щите, который традиционно держался у левого бока, не казалась убегающей от противника. Представьте визуально-герб на щите, щит слева и первое, что бросается в глаза-хвост "убегающего" животного. Сразу же возникала мысль, что в случае опасности, хозяин герба покинет бегством поле брани, с чем ни один рыцарь-владелец герба не согласится.
А Б.В.Кёне довольно вольно трактовал геральдические правила.
Потому и менялась сторона, в которую скакал Георгий. К слову, современный Герб Российской Федерации тоже нарушает это геральдическое правило. Но тут вопрос скорее к Главному герольдмейстеру России Г.В.Вилинбахову.