Николай Семенович Голованов родился в Москве 9 (21) января 1891 года. Его отец был родом из симбирских крестьян, работал портным. В 1900 году родители отдали музыкально одаренного мальчика в Синодальное училище церковного пения. В то время здесь еще трудился С.В. Смоленский – выдающийся педагог и ученый, знаток древнерусского певческого искусства. Среди наставников Николая были такие корифеи духовной музыки, как В.С. Калинников, А.Д. Кастальский, П.Г. Чесноков, а также регенты знаменитого Синодального хора – В.С. Орлов и Н.М. Данилин.
«Синодальное училище дало мне все: моральные принципы, жизненные устои, железную дисциплину, умение работать много и систематически, привило мне священную любовь к труду» -- писал позднее Н. Голованов.
По окончании училища Н. Голованов был зачислен в его штат помощником регента хора и преподавателем. Тогда же Великая княгиня Елизавета Федоровна пригласила восемнадцатилетнего музыканта на должность регента хора Марфо-Мариинской обители милосердия.
Интенсивную работу в хоре и училище музыкант совмещал с учебой в Московской консерватории в классах теории музыки и композиции. Впоследствии он с благодарностью вспоминал своих преподавателей А.А.Ильинского и С.Н.Василенко, так же как и С.И. Танеева, которому показывал свои сочинения, и М.М. Ипполитова-Иванова, на уроки которого ходил «по собственному почину». Голованов закончил консерваторию с золотой медалью, его имя было занесено на мраморную доску в фойе Малого зала. С 1925 по 1948 год (с перерывами) он был профессором оркестрового и оперного классов Московской консерватории.
В 1915 году Голованов начал сотрудничать с Большим театром. Дирижирование постепенно вытеснило его композиторские планы. Поступив в Большой театр на время, чтобы практически познакомиться со спецификой оперного жанра, остался там, по сути дела, навсегда, хотя в его работе трижды были перерывы (в 1928–1930, 1936–1948 годах, с мая 1953-го).
Первые годы работы в Большом театре стали и началом многолетнего союза – семейного и творческого – Николая Голованова и выдающейся певицы Антонины Неждановой. Николай Семенович был пианистом-аккомпаниатором артистки более тридцати лет.
Громадное влияние на деятельность Голованова оказали идеи Станиславского и личное общение с Константином Сергеевичем. Великий режиссер еще в 1919 году предложил ему возглавить музыкальную часть своей Оперной студии. Дирижер согласился и работал как в студии, так и в созданном на ее базе Музыкальном театре в 1919 – 1925 и 1937 – 1948 годах.
Во второй половине 1920-х годов против Николая Голованова была развязана кампания политической травли, так называемая «головановщина». По мнению противников дирижера, Голованов стремился «перенести в советский театр старые, буржуазные нравы и методы работы», был чересчур «консервативным», отказывался продвигать молодых артистов, поддерживал «несправедливо высокие» размеры гонораров ведущим музыкантам.
В результате травли Голованова несколько раз увольняли из театра, однако позднее снова принимали туда на работу. Не последнюю роль в произошедшем сыграли бескопромиссность дирижера, резкость высказываний, горячий, взрывной темперамент.
«Самое страшное в дирижере – равнодушие и холодность. Художник всегда должен быть страстным пророком своей веры и всецело убежденным артистом». (Н. Голованов, «Заметки дирижера»).
С 1937 года и до конца жизни музыкант возглавлял Большой симфонический оркестр Всесоюзного радиокомитета. В годы Великой Отечественной войны, когда оркестр эвакуировали в тыл, из оставшихся в Москве музыкантов дирижер создал новый коллектив, и уже с 5 ноября 1941 года возобновились прямые трансляции по радио. В начале 1942 года Голованов возродил в своей редакции увертюру «1812 год» Чайковского, которая не звучала в советское время из-за цитирования в финале гимна «Боже, царя храни». Голованов заменил его мелодией хора «Славься!» Глинки из оперы «Иван Сусанин». Многочисленные выступления оркестра под управлением Голованова в годы войны сыграли огромную роль в укреплении духа народа, его веры в победу. Среди многих наград дирижера есть медали «За оборону Москвы» и «За доблестный труд в Великой Отечественной войне 1941 – 1945 годов».
Николай Голованов умер в Москве 28 августа 1953 года. Похоронен на Новодевичьем кладбище.
Николай Семенович в советское время не только сохранял верность Православию, но и подтверждал ее многими делами: помогал материально архиепископу Трифону (Туркестанову), с которым был знаком еще с детских лет, принимал участие в судьбах Н.М. Данилина, П.Г. Чеснокова, сохранил часть Синодальной певческой библиотеки, около 200 икон и предметов церковного обихода.
Духовная музыка по объему и значимости является важной частью творчества Н. Голованова. Он - автор 64 духовных сочинений, которые писал с с 1907 по 1952год, из них 33 песнопения и 8 переработок ранних сочинений относятся уже к советскому времени. Подобно Рахманинову, Гречанинову, Чеснокову, композитор развивал ту тенденцию духовной музыки Нового направления, которая вела к значительному расширению выразительных средств и профессиональных приемов. Н. Голованов – хороший мелодист, в его церковных сочинениях на первом месте по значимости всегда находится текст. Его песнопения достаточно сложны: в них присутствуют предельные уровни динамики, широкий звуковысотный диапазон, полифонические моменты. Фактура усложнена частым делением голосов на 2, 3 партии, в гармоническом языке широко используются септ- и нонаккорды, расширенная тональность. Наряду с современными, композитор широко использует приемы, идущие от старинных пластов русской музыки - церковной и народной.
Духовные сочинения Н. Голованова, как правило, предназначены для больших и высокопрофессиональных коллективов. Автор ориентировался на звучание московского Синодального хора, с чем связано посвящение многих песнопений корифеям Синодального училища и хора - Смоленскому, Кастальскому, Орлову, Данилину, Чеснокову.