在楚軍主力尚未北上時，楚懷王便命劉邦率先西進。劉邦自碭邑率軍西征，首先便瞄準了成武和城陽兩城，劉邦探知，兩城的守軍分別是東郡的郡兵和王離的軍隊。如果單從方向上來說，劉邦其實一開始也是向北進。而秦軍此時因為正在趙地圍攻巨鹿，所以為了避免楚軍北上，隻在巨鹿以南布置了兩道防線。其中第一道防線，是由駐紮於成武一帶的秦東郡守軍負責；而第二道防線，便是由王離軍派出的一支偏師，駐紮於城陽一帶。劉邦兵分兩路向西北推進，一路的統帥是劉邦；而另一路的統帥是呂澤。
劉邦率領的這一路，先於成武南大破秦東郡的郡兵，迫使其敗退回了成武城。東郡的郡兵退回城中後一方麵築壘、放箭堅守；一方麵派人向城陽的王離軍求援。城陽裏的王離軍雖不是王離的主力部隊，而且也非王離親自率領，但仍傾巢而出趕往成武增援。
劉邦聽聞斥候報告，又得知王離的增援部隊正往成武趕，便親自督戰攻城，指揮其軍向成武城發起一波又一波的攻擊，攀雲梯而上的勇士，倒下一批，再上去一批，前赴後繼，攻到後來，連樊噲、曹參以及周勃等將都親自上陣，尤其以樊噲最為勇猛，隻身順雲梯攀上成武城頭，左右開弓，一氣斬敵十四首級，捕虜十一人，當即便被劉邦賜爵五大夫。從城陽趕往成武增援的王離軍偏師，在一處山穀之中中了劉邦部將呂澤的埋伏，被阻擊於成陽南麵。最終，劉邦軍拿下了成武城。之後，劉邦軍的策略就是借“圍點打援”對付原駐守於城陽的秦王離軍。此時秦軍被呂澤阻擋在城陽南，劉邦馬上率軍出成武城，與呂澤軍配合，南北夾擊王離軍的這支偏師，與之展開了激戰。王離軍的這支偏師，人數不過一萬，但畢竟是從北境調來的秦軍精銳。所以劉邦不願意攻城陽城時與之麵對。唯有“引蛇出洞”，全力一戰，才可與之一拚。