Родился в Москве, в старинной дворянской семье Мельгуновых. Его отец, Пётр Павлович Мельгунов — профессор Московского университета, известный историк, ботаник и педагог. Среди предков Мельгунова был вельможа времен царствования Екатерины Алексей Петрович Мельгунов (1722—1788).
В 1899 году Сергей Петрович оканчивает гимназию и поступает на историко-филологический факультет Московского университета. Во время учебы участвует в работе научного студенческого кружка, публикует 2 популярные брошюры: «Карл Великий» (1899 год) и «Арабы и Магомет» (1901 год). Брошюры получают положительные оценки в русской печати.
Сразу после окончания университета (1904) занимается преподаванием в московских частных гимназиях; входит в Педагогическое общество при Московском университете.
Вскоре Мельгунов получает признание как профессиональный историк высокого класса. Значительный отклик получили многие из его работ, а к моменту высылки из России Мельгунов успевает издать 2 книги: «Из истории религиозно-общественных движений в России XIX в.» в 1919 году и «Религиозно-общественные движения XVII—XVIII вв. в России» в 1922 году.
В 1913—1923 годы он - редактор-издатель журнала «Голос минувшего».
В марте 1917 года вошел в состав организационного комитета партии народных социалистов и был избран на первом же съезде в апреле в состав её ЦК; одновременно редактировал московские печатные органы: журнал «Народный социалист» и газету «Народное слово».
Сергей Петрович встретил революцию 1917 года настороженно, но подписание большевиками Брестского мира заставило Мельгунова уже вступить в борьбу с властью большевиков.
С точки зрения идеологической, убеждённый социалист Мельгунов, для которого главной ценностью были «интересы человеческой личности как таковой», не мог примириться с «пролетарской диктатурой» и классовым террором как «революционной целесообразностью».
В борьбе с большевиками Мельгунов становится руководителем «Союза Возрождения России» и «Тактического центра», и с апреля 1919 года он вынужден перейти на полулегальное положение. В этот период Сергей Петрович был подвергнут новой властью 25 обыскам и 5 арестам. По делу «Тактического центра» он был арестован 7 февраля 1920 года; в августе приговорён к смертной казни, позже заменённой 10 годами тюремного заключения. Был освобождён 15 февраля 1921 года под давлением научной общественности. В мае 1922 года вновь арестован и приговорён к ссылке в г. Чердынь. В октябре 1922 года выслан за рубеж.
Вскоре после высылки из России Мельгунов был лишен советского гражданства, поводом стали публикации за рубежом его статей и книги о красном терроре.
Живет в Берлине, в 1925 году переезжает в Прагу, в 1926 году - в Париж. Здесь, в 1926-28 годы выпускаются его сборники «Голос минувшего на чужой стороне».
Накануне Второй мировой войны Сергей Петрович получает широкую известность в качестве автора множества исторических исследований. Им подготовлен сборник «Дела и люди Александровского времени», куда вошли все его работы на эту тему еще из российских публикаций.
Во время Второй мировой войны, находясь под Парижем, решительно отверг любую форму сотрудничества с Германией.
В послевоенные годы выступал против просоветских настроений в эмиграции. На этой платформе издавал с 1946 года сборники «Свободный голос» (далее, в 1948-57 годах, — «Российский демократ»). В 1950-54 редактор журнала «Возрождение». С 1948 председатель Союза борьбы за свободу России, с 1951 председатель координационного центра антибольшевистской борьбы.
Скончался в 1956 году от рака. Похоронен в Шампиньи-сюр-Марн, недалеко от Парижа.
Реабилитирован России в 1992 г.
