劉邦所率領的漢軍進入太原郡之後，一路勢如破竹、連連取勝，韓王信的軍隊損傷慘重。韓王信逃到了匈奴那裏，其麾下的將領王黃等人則擁立趙國王室後代趙利為王，重新聚集殘軍，再次與匈奴聯合攻漢。
可惜他們依舊不是漢軍的對手，劉邦帶領著漢軍很快又在晉陽打敗了他們，並乘勝追擊到離石，又在那裏打了一場勝仗。
漢軍一路連連取勝讓劉邦有了輕敵心理，他聽說代穀一帶有大批匈奴兵駐紮，便派人去探查虛實。匈奴兵的主力的確在這裏，但是冒頓單於把精銳部隊和肥壯的牛馬都藏起來，隻留下一些老弱的士兵和瘦小的牛馬。所以劉邦派出去的十多個探子回來都說匈奴弱得很，完全可以攻打。
劉邦不放心，又派謀士婁敬去。婁敬去那邊看到的和前麵的探子看到的一樣，都是些瘦馬弱兵。他回來對劉邦說：“這太不正常了，兩軍交戰正是展示軍威、讓對方心生膽怯的時候。可匈奴卻隻給我們看這些瘦馬弱兵，這說明他們把真正的實力掩藏起來等著埋伏我們呢，我覺得不可攻打。”
可惜婁敬回來的時候，漢軍的二十萬大軍已經派出去了。劉邦基於之前的連番勝利，根本就不信婁敬的話，大罵他是個孬種，還把他給關了起來，囚禁在廣武縣。
漢軍的進軍目標是平城，當時已是寒冬，漢軍將士大多來自南方，無法適應北方寒冷的環境，有的凍傷、有的生病，行軍速度也緩了下來。幸運的是，這一路沒有受到匈奴的攻擊。
平城很快就被拿下，劉邦率軍追趕逃走的匈奴軍，卻在平城東的白登山遭遇匈奴主力，被斷了退路，陷入包圍。