A negyedik században Szent Ambrus milánói püspök bevezette az antifonális éneklést, ahol a kórus egy zsoltár vagy himnusz váltakozó verseit énekli. Az V. században Nagy Szent Gergely római pápa egységesítette a liturgiát, és nyolc zenei módból álló rendszert hozott létre. Ez a gregorián énekként ismert rendszer évszázadokon át a katolikus egyház elsődleges zenei formája lett.
A középkor folyamán az egyházzene különféle formái, például a liturgikus drámák, a többszólamúság és az orgonazene fejlődésnek indultak. A többszólamúság, ahol két vagy több zenei vonalat egyszerre énekelnek, a 12. században vált fontossá.
A 16. században Luther Márton kezdeményezte a protestáns reformációt. Ez az egyházi zene különböző stílusainak, például az evangélikus korálok és az anglikán ének kialakulásához vezetett. Ezek a műfajok ma is a keresztény istentisztelet fontos részei.
A 19. és 20. században megújult az érdeklődés a régi egyházi zene tanulmányozása és előadása iránt, mint például a gregorián ének és Palestrina művei. Számos stílusban komponált új szakrális zene is áradt.