V štvrtom storočí svätý Ambróz, milánsky biskup, zaviedol antifonálny spev, kde zbor spieva striedavé verše žalmu alebo hymny. V piatom storočí svätý Gregor Veľký, rímsky pápež, štandardizoval liturgiu a zaviedol systém ôsmich hudobných režimov. Tento systém, známy ako gregoriánsky chorál, sa po stáročia stal primárnou formou hudby v katolíckej cirkvi.
V stredoveku sa začali rozvíjať rôzne iné formy cirkevnej hudby ako liturgické drámy, polyfónia a organová hudba. Polyfónia, kde sa súčasne spievajú dve alebo viac hudobných línií, sa stala dôležitou v 12. storočí.
V 16. storočí Martin Luther inicioval protestantskú reformáciu. To viedlo k rozvoju rôznych štýlov cirkevnej hudby, ako sú luteránske chorály a anglikánsky chorál. Tieto žánre zostávajú dnes dôležitou súčasťou kresťanského uctievania.
V 19. a 20. storočí sa obnovil záujem o štúdium a interpretáciu starej cirkevnej hudby, ako je gregoriánsky chorál a diela Palestriny. Objavil sa aj prílev novej sakrálnej hudby zloženej v rôznych štýloch.