羅馬帝國瓦解後，日耳曼人成為歐洲西半部的主宰者，並對古羅馬文明進行了毀滅性的打擊，這一漫長的、將近一千年的時代夾在古羅馬文明和文藝複興時代之間，就是人們常說的“中世紀”。
在中世紀，教會具有政治、經濟、文化的重要地位，藝術家隻有依附於宗教，才能生存下來，因此整個中世紀的藝術處處都帶有宗教色彩。音樂受基督教影響體現在以宗教儀式或歌唱頌歌為主。教皇格裏高利一世編製出一整套專門用於宗教儀式的曲目，並以教皇的身份規定在祈禱儀式中必須要有音樂。這套三千多首的音樂曲目便被稱為格裏高利聖詠。格裏高利聖詠的歌詞取自《聖經》，是用拉丁語寫成的散文；它的曲調采用單聲部，沒有節拍，隻有高低音形成的旋律，並且旋律變化平穩，很少出現音程的跳躍。在詞曲關係上，格裏高利聖詠采用了兩種方式，一種是音節歌調，一種是花腔。音節歌調是詞的一個音節對應曲的一個音符，同一個音反複出現的情況比較多，這種方式的朗誦性比較強，但是旋律性稍差。花腔是詞的一個音節對應曲的幾個音符，有些片段隻有曲沒有詞，這種方式的特點就是旋律性很好。而由於格裏高利一世在教會勢力範圍之內大力推廣音樂，教會音樂一躍成為歐洲的主要音樂形式，他也因此被認為是對中世紀音樂貢獻最大的人。
9世紀歐洲聰明的宗教音樂家在格裏高利聖詠的單線條旋律下方或者上方加入一個平行四度或五度的曲調，於是，這個新加的曲調與原來的旋律就構成了一種簡單的“複音”形式，成為最早的複調音樂。
巴黎聖母院是另一個複調音樂的中心。西方音樂史把這些以巴黎聖母院為中心進行複調音樂創作的作曲家們稱為“聖母院樂派”。聖母院樂派使中世紀音樂發展到巔峰。