武德三年（620年）七月，一場更大的戰役開始了。平定劉武周三個月後，唐朝決定向在洛陽稱帝的王世充和占據河北的竇建德進軍。
這次戰役的總指揮仍是秦王李世民。一開始，他便將部隊分做四路：一路由史萬寶負責，從宜陽進據洛陽東南的龍門；二路由劉德威率領，翻越太行山圍攻洛陽東北的河內（今河南泌陽）；三路由王君廓領軍繞道洛陽占據洛口（今河南鞏東南），截斷對方的糧道；四路由黃君漢率隊繞過洛陽東北進攻糧庫回洛城（今河南孟津東）。李世民自己則統領大軍屯駐在北邙山，和王世充的主力對峙。
王世充的女婿單雄信當初在李密手下時與秦叔寶、程咬金等人十分要好，而今雖各事新主，且又兩軍對峙，但舊日的恩情還在。
“我想明天派支先鋒部隊去探探洛陽城，但不知誰願意去？”李世民問眾將。程咬金、秦叔寶麵麵相覷，不敢作聲。
“秦王，我去！“想我尉遲敬德降唐至今還沒半點功績，這回這個功勞讓給我吧。”
“太好了，明日咱們就準備酒菜等你凱旋歸來。”李世民高興地笑著說。
第二天，尉遲敬德率三千人馬殺到洛陽城下叫陣。
一陣喊話之後，城門立刻打開，一位雄武的將官騎著匹黑色駿馬領著大隊衛兵氣勢洶洶地出來，隻見那馬上之人青麵獠牙，紅發赤須，身材高大，拿著把純鐵打成的棗陽槊，好不威風。當他看到叫陣的是一個渾身黝黑，長相並不出眾的人時很不屑地撇撇嘴，絲毫沒把尉遲敬德放在眼裏。這人正是王世充的女婿單雄信，五虎之一。
二話沒說兩人就開打起來，打了數十回合後，單雄信開始落下風，暗想：“這黑炭還真了得，再打下去必敗無疑，還是回城為妙。”反手一槊，便拍馬回城。敬德正打得高興，見單雄信一溜煙逃進城去十分氣惱，也不收兵就在城下叫罵不休。