Указ о строительстве железной дороги между Москвой и Петербургом был подписан Николаем I в 1842 году и тогда же решили, что здания вокзалов в этих городах будут одинаковыми. Архитектор строения — Константин Тон, автор проекта церкви Екатерины у Обводного канала в Петербурге, Храма Христа Спасителя и Большого Кремлевского дворца в Москве. В работе принимал участие также архитектор, академик и профессор Рудольф Желязевич.

Департамент железных дорог разработал план здания и в 1943 году Константин Тон начал работу над проектом. Место для постройки было выбрано в центре города, что было очень удобно для пассажиров, а строящееся здание станции органично вписывалось в облик этого района Петербурга. Строительство велось одновременно со строительством железной дороги и в 1849 году было построен вокзал в Москве, а в 1851 году – в Санкт-Петербурге. Двухэтажное здание в стиле ренессанс было украшено невысокими круглыми колоннами, а фасад здания напоминало ратуши западно-европейских городов. Окна выполнены в венецианском стиле, а в центре постройки была возведена башня с часами, напоминающая облик башни — каланчи при бывшем здании Городской Думы и указывающая направление главного входа в здание.

Построенная железная дорога имела два пути и была самой длинной в мире, это было крупнейшее для того времени инженерное сооружение. 18 августа 1851 года в 4-00 утра состоялось ее открытие, когда из Санкт-Петербурга первым рейсом отправился император с семьей и через 19 часов поезд прибыл в Москву. Поскольку Николай I боялся проезжать на поезде по железнодорожным мостам, он выходил из вагона и следовал за составом пешком. Регулярное сообщение было открыто 1 ноября 1851 года и газеты назвали поезд народным. А для многочисленных вопросов которые возникали у господ пассажиров была создана справочная московского вокзаоа

Железная дорога была популярна у пассажиров и станция не справлялась с большим пассажиропотоком. Была проведена реконструкция, в ходе которой пристроили двухэтажный флигель для приема багажа, а правое крыло здания соединили с царскими покоями. В 1898 году со стороны Лиговского проспекта было пристроено кирпичное здание Отделения Николаевской железной дороги. К этому времени Знаменская площадь была полностью застроена и дальнейшее расширение вокзала могло проходить только в сторону железнодорожных путей.

В 1912 году было решено построить новое здание станции и в результате проведенного конкурса на лучший проект победила работа самого востребованного в то время петербургского архитектора, академика архитектуры Владимира Алексеевича Щуко. Началось строительство левого крыла нового здания — корпуса прибытия. Начавшаяся гражданская война помешала реализации дальнейших планов и старое здание не было снесено.

В июне 1931 года от станции отправился в первый рейс фирменный поезд Красная Стрела, а 15 декабря 1962 года дорога была электрифицирована и Красную Стрелу повел первый электровоз Эр-1-107. Были построены подземные переходы с выходом в город и на станцию метро Площадь Восстания.