劉邦率大軍也往曲遇進發，途中遇韓王成與張良率軍前來相助。兩軍聯手夾擊逃至曲遇的楊熊軍，自是威力大增。再加上眾將都拚命廝殺，很快便將秦軍完全擊潰。在張良的幫助下，劉邦從洛陽南出，乘勢攻城略地，一連攻下韓地十餘城，徹底擊破楊熊之軍。接著，劉邦便讓韓王成留守陽翟重鎮，讓張良隨自己西進，首先攻打洛陽。
洛陽，地處中原，山川縱橫，六水並流，西依秦嶺、東臨嵩嶽、北靠太行、南望伏牛；上有黃河之險，下有宛葉之饒；所謂“河山拱戴，形勢甲於天下”。洛陽在秦末尚不發達，氣勢規模遠不及滎陽，不過也是河南郡郡府所在，非等閑小城。
其時，劉邦在張良引領下，率大隊軍馬，直奔洛陽而來。離洛陽城還有十三裏處駐下兵馬，此處名曰石樓驛。劉邦對眾將說：“洛陽城內，最多一萬軍馬，少有精兵良將。待明日早起，兵臨城下，一鼓作氣，將城池奪了。”曹參道：“抵近城前安寨，不可不防夜間劫營。”
劉邦說：“我人馬突至洛陽城下，他那裏隻顧慌亂，謀求迎敵之計，哪有膽量來偷營？”又見各軍走得乏了，肚中饑餓，下令安營紮寨，生火造飯，都去安歇。也恐生出意外，便安排兩個校尉帶領百十名軍卒前後巡夜。
劉邦安排完畢，回到中軍大帳安歇時已過初更。天空忽然狂風大作，地上殘枝敗葉隨風亂卷，飛沙走石，刮得巡夜校尉睜不開雙眼。正不知所措，隻見夜空中一道閃電，將營盤照得如白晝一般。緊跟著就是震耳的雷聲，驚得人心驚膽戰。巡夜的軍卒見雷聲不絕，大雨將至，便思：這鬼天氣，斷不會有人來劫營，便都躲雨休息去了。
劉邦睡到半夜，忽然聽得帳外亂紛紛一片喊殺之聲，情知不妙，趕忙起身披甲取劍，出得帳來一看，果然是洛陽城中的秦軍於夜間前來劫營。於是指揮軍卒抵抗，但為時已晚。那秦軍將士一邊肆意砍殺猝不及防的楚軍，一邊縱火將營帳皆盡點燃，瞬間便是一片火海。曹參等警覺性比較高的將領及早組織軍卒抵抗，於天亮前將秦軍全部驅離。但整個大帳已是滿目瘡痍、一片狼藉。