齊州的繁華與平穩彰顯出各地的動亂不堪，徐家父子賢德的聲名，四方廣為流傳。
唐皇李淵對曆城的覬覦之心越來越盛，隻因關隴、中原地區仍是戰亂，無力顧及。
武德四年、唐軍進攻洛陽王世充，世充向竇軍求救，竇建德憂唇亡齒寒，擔心唐軍滅王世充後危及自己，率軍十餘萬支援洛陽，兩軍相持於虎牢關一帶，竇建德麾下謀士淩敬建議竇軍渡河攻占河陽，越過太行山，進軍汾水流域威脅關中，逼唐軍從洛陽撤退，好一招圍魏救趙之計，奈何竇建德不從，讓唐軍獲得軍機。
五月、李世民率軍偷襲竇軍得手，竇軍全軍潰散，竇建德被唐軍所俘，竇軍留守洺州諸將和軍士或散、或降唐。
七月、竇建德被押往長安斬殺，竇建德建立的夏朝被李唐所滅。
夏朝滅亡後，餘部在劉黑闥率領下，於武德四年和五年兩次在河北與唐軍交戰，終因實力不濟，武德六年，終被唐軍徹底消滅。
唐軍圍攻洛陽時，杜伏威遣軍助東都朝廷與唐軍交戰，洛陽城被唐軍攻破，先降東都朝廷的杜伏威再降李唐，入朝長安，被李淵封為太子太保兼任行台尚書令，杜軍遷至丹陽駐紮。
武德五年，大唐朝廷召杜伏威入朝，杜伏威入朝時密令輔公祏留守丹陽，將兵權交給右將軍王雄誕，輔公祏心生不滿，於八月偽稱接到杜伏威密令起兵反唐，奪杜伏威所留基業，打杜伏威旗號全麵反唐，唐廷震怒，派趙郡王李孝恭率軍鎮壓，輔公祏兵敗被斬首。
唐皇李淵不辨杜軍反唐的原因真假，遂除去杜伏威官職。
被除去官職的杜伏威，終日膽顫心驚，度日如年，於武德六年死於長安。
至此、天下大部已被唐軍占領，各地動亂的情況開始好轉，戰爭基本結束。
天下基本大定，李淵登基為帝，封長子李建成為太子，次子李世民為秦王並天策上將、領司徒、陝東道大行台書令，位列王公之上，天策府可自置官屬。