劉邦率領他的兩萬多軍隊，浩浩****直插秦國邊境，在城陽和杠裏兩個地方，擊敗了兩支秦軍，擊退了秦軍名將王離。由於他是一支仁義之師，所以沿途有不少人加入，隊伍很快發展到三萬人，占領了東郡一帶。
二世三年初（公元前207年），劉邦攻昌邑（今山東省菏澤市巨野縣）不利，西取高陽，在行軍途中遇到一個人，這個人叫彭越。
彭越是個猛人，原先在巨野的湖澤中打漁的，後來糾集了一些人當起了湖匪。陳勝和項梁他們起義之後，彭越見大勢所趨，也就拉起了一支隊伍起義了。
彭越沒有項梁那樣的顯赫身世，也不會像劉邦那樣炒作自己，隻帶著幾百人打遊擊，秦軍來了，躲進湖澤中，秦軍走了，就出來晃悠一下，性質上跟土匪沒有什麽兩樣。
劉邦進攻昌邑的時候，彭越知道劉邦的名氣，於是帶著他的人來投奔。他一看劉邦連昌邑都拿不下，心裏對劉邦的印象就打了折扣，聽說劉邦去進攻高陽，就帶著人開了小差。
樊噲見彭越這樣掉鏈子，氣得要帶人去追，劉邦卻勸樊噲，說彭越是個勢利小人，隻能以利益來引誘，不可勉強。
為了顯示自己的仗義，劉邦還讓人給彭越送去了二百兩黃金，此舉為後來利用彭越，打下了堅實的基礎。
不得不佩服，劉邦在江湖上混那麽久，看人確實很準。
你走了，我不但不打你，還送錢給你花，天下哪有這麽仗義的老大？
劉邦在取高陽的途中，經過栗縣，遇到魏國將軍剛武侯率領的幾千士兵，一番威逼加利誘，直接收編了過來。
接著劉邦又讓剛武侯通知另外的兩路魏國將領，皇欣和申徒武蒲，表示願意幫助魏國拿下昌邑，結果幾路人馬匯合，再次攻打了一陣，還是沒拿下來。他打聽到高陽郡那邊的兵力空虛，決定按照原先的計劃，往西攻打高陽。