崆峒之行後一年，元鼎六年（前111 年），35 歲的司馬遷以郎中的身份“奉使西征巴蜀以南，南略邛（西昌）、笮（漢源）、昆明（今雲南保山、騰衝、順寧等地）”。這件事關係到漢武帝經營西南的方針。西南一帶按照現在的行政區劃，包括雲南、貴州、四川等省。漢武帝注意到西南邊境的問題，是因為之前東南邊境的經營經驗。建元六年（前135 年），漢平閩越（福建）後，派人勸說南越（兩廣及越南）歸順，使者到了南越後才知道南越西北還有夜郎國（今貴州北部）。這時南越還沒有並入大漢的版圖，有人建議與夜郎國聯合起來以製南越。漢武帝就派人率兵南下，恩威並施，使夜郎國和它旁邊的小邑歸屬漢朝。
當時蜀人司馬相如認為邛、笮可以仿照南越、夜郎的管理方式，於是漢武帝命司馬相如前往勸說那些小邦歸順，邛、笮由於貪圖漢朝的賞賜也就答應了。漢在這裏設了十幾個縣，隸屬於蜀郡。後來，這些西南邊境小國竟在漢朝全力抗擊匈奴時，趁機反叛作亂。漢武帝無暇顧及，也就放棄了這裏的經營。
元朔三年（前126 年），司馬遷20 歲時，曆盡千辛萬苦終於回到長安的張騫帶回了一個消息，這個消息又引起了漢武帝對西南邊境的興趣。張騫說他在大夏時（今中亞阿姆河一帶），曾看到邛產的竹杖和蜀郡產的布，大夏人說那是從印度買來的。他們聽說這些東西都是原產於中國的，表示非常仰慕中國的文化和技術，隻是被北方匈奴阻擋，無法互通有無，如果能夠打通蜀郡，經由印度，就可以互相通商了。
4 年後，漢武帝派遣使者，計劃從西南通印度以連大夏。結果西南邊境的少數民族從中作梗。滇國（在雲南滇池一帶）和夜郎國的君主問漢使者：“漢朝大還是我大？”一個個都是不服氣的樣子。漢使者隻好如實回報漢武帝，並強調滇國地域還算遼闊，值得經營。《史記》中描寫漢武帝聽了後，就又開始注意西南邊境了。