事實上，早在漢文帝時，將軍陳武就提出了以武力南征**平百越的構想，當時的漢文帝則說：“兵，凶器，雖克所願，動亦耗病，謂百姓遠方何？願……結和通使，且無議軍。”話雖如此，實際上當時的漢廷軍力有限，漢文帝頗有自知之明，所以未對南越動武。而到漢武帝時，形勢已大不相同了。經過景帝的“削藩”和平吳楚七國之亂，同姓諸侯王的權勢大不如前。漢武帝行“推恩令”，強令諸侯王分封自己的子弟，使封地越分越小；同時借口取消了不少高官貴族的封爵，使中央王權得到了鞏固，皇帝有能力獨攬朝政大權。整個國力達到了有漢以來最為鼎盛的時期，造成了國富民強和安定的政局。這樣，戡定邊患，開拓疆域，建立大一統的漢帝國成了漢武帝的當務之急。這個時候，雄心勃勃的漢武帝再也不滿足於南越王國表麵臣服，實質上仍是半獨立的藩屬關係了。政治上的穩定，經濟上的繁榮，軍事上的強大，使漢武帝感到用武力解決南越國問題的時機到來了。
早在唐蒙出使南越時，因食蜀產枸醬，無意中發現了從西蜀至夜郎，再從群柯江浮舟而下，可至番禺城的通道。唐蒙發現這條通道後，曾上書漢武帝說：“南粵王黃屋左纛，地東西萬餘裏，名為外臣實一州主。今以長沙、豫章往，水道多絕，難行，竊聞夜郎所有精兵，可得十萬，浮船群柯，出其不意，此製越一奇也。誠以漢之強，巴蜀之饒，通夜郎道，為置吏，甚易。”唐蒙的建議，是讓漢武帝利用這條水道出奇兵製越，漢武帝聽罷大喜，拜唐蒙為中郎將，帶一千兵和許多漢帛絲綢財物等，赴夜郎國先行招撫。唐蒙帶了大量錦緞，率一千人做護衛，出都南下，沿途經過許多險阻，才進入夜郎國。夜郎國王名叫多同，因為地處閉塞，素與外界不通，這多同還以為世上唯他夜郎最大，見到漢使唐蒙，不禁問道：“漢朝與我誰大？”唐蒙欲笑不得，隻得如實俱述。後世相傳的“夜郎自大”的故事便源於此。唐蒙一邊講述漢朝如何強盛，如何富饒，又把錦緞置於帳前，五光十色，錦繡成章，夜郎王見所未見，聞所未聞，不由得瞠目結舌，表示願臣屬於漢，當下與唐蒙訂立約章。