第二年，匈奴又來犯。漢武帝就派衛青率領六個將軍和大隊人馬去抵抗匈奴。
衛青有一個外甥，叫霍去病，那時候才十八歲。他非常勇敢，又會騎馬射箭，這次也跟著衛青一道去攻打匈奴。
匈奴聽到漢軍大批人馬來進攻，就立即往後逃走。衛青派四路人馬分頭去追趕匈奴部隊，想要把匈奴主力打敗。衛青自己坐鎮大營，等候消息。到了晚上，四路兵馬都回來了，不過並沒有找到匈奴主力，有的殺了幾百個兵士，有的連一個敵人也沒有找到，空著手回來。
霍去病當時還是第一次出來打仗的小夥子，隻做了個校尉。他帶領八百名壯士組成一個小隊，去找匈奴部隊。他們向北跑了一陣，一路上沒瞧見匈奴兵士，一直趕了幾百裏路，才遠遠望見匈奴兵的營帳。他們偷偷地繞道抄過去，瞅準一個最大的帳篷，猛然衝了進去。霍去病眼明手快，一刀殺了一個匈奴貴族，他手下的壯士又活捉了兩個。匈奴兵沒了首領，四處奔逃，八百個壯士追上去又殺了兩千多名匈奴兵，才趕回大營。
衛青在大營裏正等得焦急，隻見霍去病提了一個人頭回來，後麵的兵士還押了俘虜。經過審問，才知道這兩個俘虜一個是單於的叔叔，一個是單於的相國，那個被霍去病殺了的是單於爺爺一輩的王爺。
十八歲的霍去病第一次參加作戰，就逮住了匈奴的兩個將官，這功勞可真不小。戰鬥結束後，他被封為冠軍侯。
公元前121年，漢武帝又封霍去病為驃騎將軍，率領一萬騎兵從隴西出發，進攻匈奴。霍去病的兵馬跟匈奴兵接連打了六天，匈奴兵抵擋不住，向後敗退。霍去病和他的騎兵越過燕支山，追擊了一千多裏地。那邊還有不少是匈奴的屬國，像渾邪(25)、休屠。漢兵到了那裏，俘虜了渾邪王的王子和相國，把休屠王祭天的金人也繳獲了。