В июле 1858 г. император Александр II одобрил предложение об устройстве железнодорожного сообщения между Москвой, Троице-Сергиевой лаврой и Ярославлем. Для строительства дороги было создано акционерное общество. Среди его учредителей — инженер барон А.И. Дельвиг, двоюродный брат поэта А. Дельвига, лицейского товарища А.С.Пушкина; публицист и издатель, ученый и промышленник Ф.В. Чижов; промышленники Н.Г. Рюмин и И.Ф. Мамонтов, — отец будущего промышленника и мецената, владельца усадьбы Абрамцево С.И. Мамонтова.
Будущий крупный теоретик промышленно-торгового развития России Федор Васильевич Чижов одним из первых выдвинул идею строительства стальной магистрали от столицы до Ярославля. Эта идея нашла поддержку у московских купцов, искавших выгодного вложения денег. Таким образом, дорога Москва — Ярославль стала первой частной трассой, построенной без привлечения иностранного капитала. Активным помощником Ф. В. Чижова стал Иван Федорович Мамонтов. В 1859 г. московские деловые люди братья Шиповы, инженер генерал-майор А. И. Дельвиг и купец И. Ф. Мамонтов учредили Общество по сооружению железной дороги от Москвы до Ярославля. Председателем Общества Московско-Ярославской железной дороги стал Ф.В. Чижов. По поручению учредителей статистики подсчитали, что "на Ярославском шоссе в разных экипажах, от карет и дилижансов до телег, проезжает более 150 тысяч человек и перевозится до 4 миллионов пудов клади в год. И это, не считая примерно 500 тысяч паломников в Троице-Сергиеву Лавру ".
В мае 1860 г. началось строительство участка дороги от Сергиева Посада, в котором участвовало более 6 тыс. рабочих. Был сооружен соединительный путь с Нижегородской железной дорогой. На пересечении с Ярославским шоссе построили путепровод. Сначала на линии существовало 7 станций: две конечные, две III класса (Пушкино и Хотьково) и три IV класса (Мытищи, Талицы, Софрино). В воскресенье, 22 июля 1862 года, инженеры и строители совершили первый пробный выезд. Поезд состоял из паровоза и платформы, на которой была поставлена просторная палатка. Во главе группы был инженер путей сообщения, один из директоров-учредителей полковник М. Богомолец.
Движение по первому участку дороги между Москвой и Сергиевским Посадом началось уже в августе 1862 г. Рельсы прошли мимо Покровского Хотькова монастыря, по его бывшим землям, предварительно выкупленным у обители хозяевами дороги. На бывших монастырских землях было построено и одно из сложнейших инженерных сооружений первого участка железной дороги — мост через речку Пажу. Строил его молодой талантливый инженер А.С. Рехневский.
17 августа 1862 г., в московских газетах появилось сообщение: "Управление Московско-Ярославской железной дороги извещает, что с 18 числа августа открывается ежедневное движение от Москвы до Сергиева Посада, на первое время по два раза в день". К открытию дороги в Германии были закуплены трехосные пассажирские вагоны фирм "Пфлуг" и "Лауэнштайн", которые не имели тамбура, и пассажиры из торцевой двери вагона выходили на открытую площадку с поручнями. Немецкие вагоны имели одинарную обшивку, и уже осенью в них было холодно. Позднее появились более удобные вагоны мастерских Коврова. Движение товарных поездов от Москвы до Сергиева Посада открылось с 3 октября 1862 г. Везли дрова для отопления столицы, древесный уголь для самоваров и паровых утюгов, торф, кирпич и камень.
В 1865 г., несмотря на некоторые финансовые трудности, Общество изъявило желание приступить к изысканиям нового участка трассы от Сергиева Посада до Ярославля. В работах принимал активное участие инженер Г. Грек. В феврале 1866 г. он представил собранию акционеров продольный профиль линии и проекты мостов. По проекту Г. Грека трасса шла через Александров и Ростов, минуя Переславль. На ней предусматривалось 6 металлических мостов с каменными опорами. Строительство дороги началось 2 июля 1868 г. и продолжалось менее двух лет. В Ярославле, Ростове и Александрове были возведены паровозные депо. Обществом было приобретено 8 паровозов фирмы "Борзиг" серии "Бп".
Московско-Ярославская дорога связала столицу с Волгой. Это в значительной мере способствовало развитию промышленности в городах Поволжья. Объем перевозок постоянно рос, со временем была развита сеть подъездных путей. После смерти старшего Мамонтова по рекомендации Ф.В. Чижова, ставшего на многие годы покровителем и наставником Саввы Ивановича, младший Мамонтов занимает ответственный пост директора Общества Московско-Ярославской железной дороги. В 1872 г. построена узкоколейная линия Ярославль — Вологда, в 1877 г. — ветка Александров — Карабаново, а в 1887 г. — Ярославль — Кострома. 6 ноября 1894 г. открылось временное, а в 1895 г. — постоянное движение по линии Мытищи — Щелково. В настоящее время в состав Московской железной дороги входит участок от Москвы до Александрова.