開元二年四月二十一日，楊宣凝下旨，鎮南王宋缺，領十萬軍，駐紮於隴西，這是防備突厥在關鍵時，直撲關中，打亂整個戰略計劃。
二十二日，楊宣凝下旨，羅士信領十五萬軍，駐以長安為中心，占龍門渡口，北上虎視宋金剛，其意是斷絕劉武周可能支援河北的行動。
直接發旨對羅士信說著：“劉武周雖占太原，然其主不過民間富裕之家。
官不過建節校尉，雖依突厥，而速發，然軍無蓄積，以虜掠為資，民無安心，士族不附，宋金剛雖勇，然孤軍深入，你等隻需徐徐推進，以牽製其軍不得動，自有糧盡之時，再行出擊，此時不宜速戰。”
開元二年四月二十三日，又對洛陽集團下旨杜伏威，率軍五萬徐世績，率軍五萬李靖，率軍十萬並水師二萬四路軍，以李靖為主帥，自南出發，直撲河北，攻向竇建德竇建德不得已，舍了羅藝，回師作戰，並且以開元五月二十九日，二軍正式作戰李靖與之交戰，相持一月，竇軍不能前進，多次作戰不利，士氣低落，最重要的是，連糧草也有所不足，而洛陽而上，糧草軍軍械充足，士氣越發鼎盛。
開元七月十一日，李靖判斷決戰的時間已經到，以五千騎直破竇軍，三路夾擊，竇建德陣勢大亂，全陣崩潰，唐軍追擊田裏，俘獲５萬人，竇建德負傷，而率其夫人曹氏，和數百騎逃回，李靖步步緊逼。
直到兵臨城下，城中隻有三萬兵。
左仆射齊善行說：“王上平定河朔，士馬精強，一朝兵敗如此，豈非天命有所歸也？不如委心請命，觀以前諸人，都不失富貴。”
群臣附議。
其實到了這時，大家都知道竇建德已經不可能再爭奪天下了，自然就起了心思，誰也不會陪葬。
特別是竇建德稱王不過二年，可所謂權威未鞏，特別是大敗之時。