Название поэмы невольно может ввести в заблуждение, но на самом деле речь в ней идет не о животном, а о русском зодчем-самородке Федоре Коне. Автор утверждает, что кличку Конь ему дал сам царь Иван Грозный за огромную силу и "горячий нрав". Поэма начинается с описания набега на Москву войска крымского хана Давлет Гирея, в результате чего столица почти полностью сожжена. Затем действие переносится на несколько лет вперед. У одного из опричников царя Ивана Грозного, немца Генриха Штадена, трудится плотником Федор Конь, мужик большой физической силы и мастер своего дела. Конь ставит немцу новый деревянный дом, который украшает великолепной резьбой в национальном русском стиле. Однако немцу не нравятся резные петухи на крыльце и наличниках, его раздражает всё русское, и он бьет плотника плеткой. Гордый и своенравный Конь не терпит унижения и бьет немца в ответ. Побитый Штаден жалуется на Коня царю, и Иван Грозный за обиду своего опричника приказывает посадить плотника в темницу. Однако, чувствуя опасность, Конь уходит из Москвы и вообще покидает Русское государство. Через Турцию он попадает в Италию, где перебивается случайными заработками, но однажды на стройке встречается с известным итальянским зодчим из Пизы Барбарини. Разглядев в Федоре безусловный зодческий талант, итальянец обучает Коня всем премудростям архитектурного мастерства. В Италии Конь не знает отбоя от заказчиков, но его глодет тоска по родине. Не выдержав, он возвращается в Москву и кается перед умирающим Иваном Грозным. Тот прощает мастера, потому что немец Штаден в итоге оказался шпионом и предателем. После смерти царя его преемник Федор Иванович поручает Коню построить вокруг Кремля белокаменную стену повышенной прочности, обещая наградить за труд. Конь с радостью берется за дело, о котором давно мечтал. Он строит замечательную стену с красивыми башнями, но вместо награды получает от царя Федора упреки в расточительстве казны и хорьковую шубу с порченным молью рукавом - зато с царского плеча. Смертельно оскорбленный, Конь пускается в беспробудно пьянство по московским кабакам. Затем, вызванный провокатором на резкие высказывания о царе, по доносу того же провокатора оказывается арестованным и сосланным в Соловецкий монастырь. Однако Конь хитростью сбегает с островов на лодке и возвращается в Москву. Там уже правит Брис Годунов. В одном из рейдов царских стрельцов по отлову бродяг в хижине в Серебряном Бору обнаруживается спившийся человек богатырского роста, который на вопрос о том, кто он такой, отвечает - Иван, не помнящий родства.
Главная мысль произведения - не всякий талант получает достойное вознаграждение.
Остается добавить, что поэма Д.Б.Кедрина "Конь", которую он сам назвал повесть в стихах, написана в 1940 году. При жизни автора не публиковалась.