計議已定，漢武帝立即著手實施，一麵讓王恢聯絡聶壹，讓他準備好利誘匈奴人；一麵征發北方諸郡的兵力，計劃用一個月的時間完成集結。
為了達到全殲來犯匈奴人的目的，漢武帝決定征發三十萬人，幾乎將北方十餘郡的青壯年集結了一半。
得知朝廷有重大的軍事行動，衛尉李廣主動請纓，漢武帝不想挫傷他的積極性，任命他為驍騎將軍，太仆公孫賀為輕車將軍，都埋伏在馬邑城內。
大行令王恢則被任命為將屯將軍，太中大夫李息為材官將軍，在馬邑外圍設伏，一旦匈奴人進入包圍圈，從後麵截斷歸路；禦史大夫韓安國為護軍將軍，為後援機動。
經過商議，漢武帝任命王恢為戰場指揮，可以臨時決定何時發起圍攻。
五月底，三十萬大軍開始集結，從不同方向匯聚於馬邑，到達指定地點設伏。六月初，集結完畢，聶壹的表演也已接近尾聲。
早在五月二十，聶壹已經偷偷潛入匈奴，言稱馬邑令殺了他的族人，他願意做向導帶領匈奴人占領馬邑。
軍臣單於老謀深算，中行說更是一條老狐狸，根本不相信他的話，陰陽怪氣道：“空口無憑，誰知道你打的什麽算盤？莫不是漢朝的奸細！”
聶壹根本沒理會中行說，對軍臣單於道：“我在馬邑還算有點勢力，如果大單於不相信我，可以派使者與我同行，看到馬邑令的頭顱再出兵也不遲。”
“身為漢人，你為何要背叛漢朝？馬邑被破，你又能得到什麽好處？”軍臣單於問到了關鍵。
“其實，我更有資格擔任馬邑令，但朝廷不相信我，馬邑令心懷怨恨，借機殺害我族人，此仇不共戴天。如果大單於能攻下馬邑，財帛子女全部歸大單於，我隻要城池。以後，馬邑就是匈奴的一個據點。”
“好，你是個有野心的人！本單於相信你。”軍臣單於獰笑道。