Совпадают в значении «отсутствие хорошего вкуса; плохой вкус», но безвку́сица имеет дополнительный оттенок значения «проявление безвку́сия». Какая безвку́сица эти лубочные картинки! Различаются: 1) употребительностью: безвку́сие употребляется реже; 2) стилистически: безвку́сие — книжное, безвку́сица — разговорное. Отличается безвкусицей (безвкусием).
Розенталь Д. Э. Теленкова М. А. Словарь трудностей русского языка. М.: Айрис-Пресс, 2003. С. 46 – 47.