Совпадают в знач. «относящийся к матери, принадлежащий ей», но матери́нский и ма́те-
рин различаются стилистически: матери́нский — нейтральное; ма́терин — разговорное, а ма́терний — устаревшее. Возле стоял и слушал мальчик лет девяти, должно быть, в матери́нской кофте, — рукава висели до самой земли (Серафимович). В комнату вошла шестилетняя Зина в накинутом на голову большом ма́терином платке (Вересаез). Ма́тернее молоко на губах еще не обсохло (Чехов).
Розенталь Д. Э. Теленкова М. А. Словарь трудностей русского языка. М.: Айрис-Пресс, 2003. С. 320.