Родился в семье причетника. Окончил Тверскую духовную семинарию, в 1871 году окончил Санкт-Петербургскую духовную академию (XXIX курс) со степенью кандидат богословия, с правом на получение степени магистра без нового устного испытания, если представит и защитит магистерскую диссертацию. После окончания учёбы был назначен преподавателем основного, догматического и нравственного богословия в Казанскую духовную семинарию, где не раз был избираем членом педагогического собрания; временно преподавал педагогику и русский язык в Женском училище духовного ведомства и русский язык в Юнкерском пехотном училище. В 1874 году получил степень магистра богословия, тема диссертации — "Нравственный идеал буддизма в отношении к христианству" (Санкт-Петербург, 1874). 9 февраля 1887 года назначен доцентом в Казанскую духовную академию по кафедре введения в круг богословских наук; 8 марта 1889 года возведен и утвержден в звании экстраординарного профессора. В 1895 году получил степень доктора богословия за сочинение: «Основные религиозные начала графа Л. Толстого. Апологетическое сочинение» (Казань, 1893; ввиду вновь появившихся сочинений гр. Л. Толстого, сочинение это совершенно переработано, дополнено и вторично издано в 1902 г. под загл.: «О сущности религиозно-нравственного учения Л. Н. Толстого», Казань). С 19 марта 1896 года ординарный профессор апологетики христианства в Казанской духовной академии. Предметом богословских исследований Гусева была полемика с нехристианскими тенденциями современной науки, в особенности естествознания. Гусев считал, что только теистическая философия имеет за себя надлежащие научные основания, что только она отвечает высшим потребностям и стремлениям человеческого духа. Вёл полемику со старокатоликами и со старообрядцами. В июле 1902 года подал прошение и был уволен со службы по слабости здоровья. Похоронен на Арском кладбище.

Гусев напечатал много статей религиозно-философского содержания, большая часть которых помещена в «Православном обозрении»: «Вопрос о воспитании в учениях современных естествоведов» (1874, 10—12); «Дж. Ст. Милль как моралист» (1875, № 1, 3, 8 и 9; 1876, 6; 1877, 6—7; 1878, 8); «О. Конт» (1875, 12); «Натуралист Уоллес, его рус. переводчики и критики» (М., 1879); «Христианство в его отношении к философии и науке» (1885, 1, 3 и 4); «Необходимость внешнего благочестия» (против Л. Н. Толстого», «Православный собеседник», 1890, 2 и отд. Казань); «Л. Н. Толстой, его исповедь и мнимо-новая вера» («Православное обозрение» 1886, 1—6, 9—10; 1889, 10—12; 1890, 1 и 4) и другие. Публиковал свои статьи в журналах «Гражданин», «Вера и Церковь», «Православный собеседник», «Вера и Разум», «Православное обозрение».