衛青襲破蘢城給了劉徹底氣，從這一年開始，漢軍徹底放棄了以往被動防守的軍事策略，開始和匈奴人在邊境地區你來我往地對仗。
蘢城之戰後，匈奴的軍臣單於為報複漢朝不斷騷擾邊境，尤其在漁陽一帶，可以說是三天一入五天一寇，並於元朔元年(公元前128年)秋天派兩萬匈奴騎兵大舉犯邊。匈奴騎兵來勢凶猛，在邊境大破朝廷守軍，不僅殺死了遼西太守，還劫掠了百姓兩千餘人。同時，另一支匈奴騎兵進犯雁門，殺掠百姓千餘人。
麵對匈奴的報複行動，劉徹毫不退縮，一麵任命衛尉韓安國駐守漁陽，防備匈奴的入侵，一麵指派衛青率騎兵三萬出雁門，再次深入草原打擊匈奴。
有了上次的經驗後，衛青對軍隊的指揮調度更加嫻熟，他很快就找到了一支匈奴軍隊。雙方激戰一天，漢軍在兵力優勢下斬殺匈奴騎兵數千人。匈奴人又一次在自己的地盤上被漢軍擊敗，軍臣單於更加憤怒，再次命令部下進攻漁陽，對漢朝進行報複。
說來也是鎮守漁陽的老將韓安國倒黴，年前他被派到漁陽後也曾積極準備防務，但當時恰逢衛青在草原上大敗匈奴人，他在漁陽左等匈奴人不來，右等匈奴人也不來，就帶著一小撥親隨，出了漁陽到草原上抓舌頭。被抓的匈奴人都說，因為衛青的緣故，現在匈奴的騎兵已經遠離漁陽一帶。韓安國認為，既然匈奴騎兵已經遠去，就沒有必要讓過多的人力財力在邊境上空耗了，所以他把消息上奏皇帝，要求取消漁陽一帶的軍屯。
韓安國是朝廷的老將、宿將，他的上書劉徹不得不重視。既然韓將軍認為漁陽一帶已無大患，劉徹便取消了漁陽的軍屯，並撤回了部分軍隊。沒想到，一向以老成持重著稱的韓將軍這次卻晚節不保，就在取消軍屯一個月後，匈奴人再次大規模進犯漁陽和上穀。這時候，韓安國手下的將士不足千人，雖然個個作戰勇猛，但無奈雙拳難敵四手，漢軍隻能節節敗退，一直從漁陽退到了右北平。直到李息率軍隊從代地趕來增援，匈奴人才放棄圍城而去。