隋朝末年，隋煬帝的統治更加殘暴，廣大人民不堪痛苦，紛紛起義。大業七年（611），山東鄒平人王薄，首先舉起了反隋的旗幟。不少農民響應了王薄的號召，跟隨他一道起義。他們占領了長白山（在今山東省鄒平市東南），到處攻打官軍。不久，各地農民也接著起義，農民戰爭的大風暴迅速席卷了全國的大部分地區。
自611年到618年，隋末農民戰爭共曆時八年。這八年，大致可以分為三個階段。從611年到614年，為第一階段。在這一階段，農民軍由於缺乏訓練和裝備，加上各支隊伍分散作戰，彼此未能很好聯係，以致在對敵鬥爭中，暫時處於劣勢地位；但是另一方麵被推進窮困深淵的農民大批參加起義軍，因此農民起義的隊伍反而在局部失敗中一天天更加壯大起來。從614年到616年，為第二階段。在這一階段，農民軍不僅在山東、河北一帶鞏固了自己的據點，奪取了一些重要的城市，並且還在江淮地區取得了很大的勝利；而隋朝封建統治者由於不斷受到農民軍的沉重打擊，這時已無法再維持其原有的軍事優勢，起義軍的力量已逐漸發展到了和隋軍接近平衡的地步。從616年到618年，為第三階段。在這一階段，隋軍的力量日益微弱，農民起義軍在軍事上完全轉入了主動地位，隋政權日益走向崩潰，以致最後覆滅。
根據史書的記載，隋末農民起義大約有一百二十餘處。各路起義軍逐漸匯合，後來形成了三個最強大、最著名的軍隊，這就是河南的瓦崗軍、河北的竇建德軍和江淮之間的杜伏威軍。
瓦崗（在今河南省滑縣南）軍的最初領導人是河南人翟讓。後來，單雄信、徐世勣（jì）等人都來參加起義。616年，李密也投奔到瓦崗軍來。李密很有才幹，他加入瓦崗軍後，一麵勸翟讓明確地提出反抗隋朝暴政的口號，一麵親自去勸說各地起義領袖加入瓦崗軍。瓦崗軍的勢力迅速壯大起來，成為當時最強大的一支農民武裝力量。