Сергей Яковлевич Лемешев родился в селе Старое Князево Тверской губернии (ныне Калининский район Тверской области) в крестьянской семье. В 1914 году окончил церковно-приходскую школу, затем некоторое время учился сапожному делу в Санкт-Петербурге. В 1918 году окончил общеобразовательную школу в Твери. Азы нотной грамоты и пения освоил в художественно-ремесленной школе, где участвовал в самодеятельных спектаклях и концертах. Во время учёбы на Тверских образцовых курсах комсостава РККА (1920) получил направление на учёбу в консерваторию.
В 1921—1925 годах он учился в Московской консерватории в классе профессора Н. Г. Райского. С 1924 года пел в оперной студии К. С. Станиславского при Большом театре, где, среди других, исполнял партию Ленского (опера П. И. Чайковского «Евгений Онегин»). Именно эта роль, которую Сергей Яковлевич исполнил более 500 раз, принесла ему широкую известность и любовь зрителей. «Ленский целиком заполнил мою жизнь, — говорил певец. — Из моих более чем тридцати ролей эта — самая дорогая, любимая, самая большая радость моего творчества». Лемешев пел эту партию всего 501 раз: 500-е исполнение прошло в 1965 году (после этого Лемешев покинул оперную сцену), 501-е и последнее исполнение состоялось в Большом театре в июне 1972 года в честь предстоящего 70-летнего юбилея певца.
В 1926 году дебютировал на профессиональной сцене в Свердловском театре оперы и балета.
В 1927—1929 годах — солист Русской оперы при Китайско-Восточной железной дороге в Харбине.
В 1929—1931 годах — солист Тифлисского театра оперы и балета.
В 1931 году Лемешев был приглашён в Большой театр, где дебютировал в партиях царя Берендея (Снегурочка), Джеральда (Лакме) и Ленского (Евгений Онегин). Вместе с И. С. Козловским Лемешев был ведущим тенором вплоть до 1957 года, периодически продолжал выступать в Большом театре до 1965 года. Исполнил множество партий: Левко («Майская ночь»), Звездочёт («Золотой петушок»), Индийский гость («Садко») в операх Н. А. Римского-Корсакова, Баян («Руслан и Людмила» М. И. Глинки), Дубровский (одноимённая опера Э. Ф. Направника), а также Герцог («Риголетто»), Альфред («Травиата») в операх Джузеппе Верди, Граф Альмавива («Севильский цирюльник» Джоаккино Россини), Фауст (одноимённая опера Шарля Гуно) и др.
В 1939 году Лемешев единственный раз в своей карьере снялся в музыкальной комедии «Музыкальная история» в роли шофёра Пети Говоркова, который стал оперным певцом. Его партнёрами были З. А. Фёдорова, Э. П. Гарин, С. Н. Филиппов. За роль в этом фильме Сергей Яковлевич был удостоен Сталинской премии II степени. Правда незадолго до этого он исполнил «политически важную» песню «Принимай нас, Суоми-красавица», гимн Карелии, написанный после советско-финской войны 1939 года.
Во время Великой Отечественной войны Лемешев выступал с фронтовыми бригадами. Во время одного из выступлений он сильно простудился, и у него обострился туберкулёз лёгких. Оперативное лечение включало пневмоторакс правого лёгкого.
В 1947 году гастролировал в Берлинской государственной опере (Ленский в опере «Евгений Онегин»).
В качестве оперного режиссёра дебютировал в 1951 году постановкой оперы «Травиата» на сцене Ленинградского малого оперного театра. В 1957 выступил в Большом театре как режиссёр-постановщик оперы «Вертер» Ж. Массне (и исполнитель заглавной партии).
В 1951—1961 годах руководил кафедрой оперной подготовки, в 1969—1971 — кафедрой сольного пения в Московской консерватории. Вёл циклы передач на Всесоюзном радио, был руководителем вокальной группы.