正當李密如火如荼地在河南開展他的反隋大業的這一年、也是楊廣沉浸在江都的溫柔鄉中樂不思蜀的這一年，在河東、隴西、河西、江南等地迅速崛起了一個個割據政權。
他們是劉武周、梁師都、郭子和、薛舉、李軌、蕭銑……還有一個就是李淵。
這是意欲顛覆隋帝國的第二波力量。相對於大業七年到大業十二年的那一波反隋浪潮，大業十三年掀起的這一波顯然動靜更大、來勢更猛。而且，這幾個核心人物的能量和號召力，也遠比此前的那些暴民更為巨大。
因為，他們不是泥腿子。他們都來自隋帝國的軍隊內部和社會上層……劉武周，馬邑（今山西朔州市）人，少年時“驍勇善射，交通豪俠”，其兄劉山伯屢屢詈罵：“汝不擇交遊，終當滅吾族也！”（《舊唐書·劉武周傳》）劉武周忍受不了嚴厲的管束，遂離家出走，到了東都洛陽，投於太仆卿楊義臣帳下，其後隨軍東征高麗，以軍功授建節校尉。
當上軍官後，劉武周衣錦還鄉，調任當地的鷹揚府校尉。馬邑郡太守王仁恭視其為英雄，對他大為賞識，讓他當了自己的親兵隊長。不久之後，劉武周因職務之便與王仁恭的侍妾私通，由於擔心事情泄露，又見其時天下大亂，遂心生異誌，在郡城中大造輿論：“今百姓饑餓，死人相枕於野，王府尹居然緊閉糧倉，不加撫恤，這豈是為民父母應有的做法！”劉武周別有用心的煽動很快產生了效果，往日交遊的十幾個同郡豪傑馬上前來投奔。劉武周隨即與他們一起設計刺殺了王仁恭，然後開倉賑糧，傳檄全郡，迅速糾集了一萬多名部眾。劉武周自稱太守，並遣使奉表投靠了東突厥。
大業十三年二月，隋雁門郡丞陳孝意與虎賁郎將王智辯一同出兵討伐劉武周，將其包圍在桑乾鎮（今山西朔州市東南）。東突厥即刻出兵援助劉武周，共同擊敗了隋軍。王智辯被斬於戰陣之中，陳孝意倉惶逃回雁門。