漢武帝初年的時候，匈奴中有人投降了漢朝。漢武帝在和他們的談話中知道了一點西域(20)的情況。他們說有一個月氏(21)國，被匈奴打敗，向西逃去，定居在西域一帶。他們跟匈奴有仇，想要複仇，但是沒有人幫助他們。
漢武帝想，月氏在匈奴西邊，漢朝如果能跟月氏聯合起來，切斷匈奴跟西域各國的聯係，這不就等於切斷了匈奴的右臂嗎？於是他下了一道詔書，征求能幹的人到月氏去聯絡。當時誰也不知道月氏國在哪兒，也不知道有多遠，要擔負這個任務，可得有很大的勇氣。
有個年輕的郎中覺得這是一件有意義的事，首先應征，這個人就是張騫。有他一帶頭，別的人膽子也大了，有一百名勇士應征。有一個在長安的匈奴人叫堂邑父，也願意跟張騫一塊兒去尋找月氏國。
公元前138年，漢武帝派張騫帶著一百多人出發去尋找月氏國。但是要到月氏國，一定要經過匈奴占領的地界。張騫他們小心地走了幾天，還是被匈奴兵發現了，全都做了俘虜。
匈奴人沒有殺他們，隻是派人把他們關押起來，這一關，就是十多年。
日子久了，匈奴對他們管得也不那麽嚴了。張騫就跟堂邑父商量了一下，趁匈奴人不防備，騎上兩匹快馬逃了。他們一直向西跑了幾十天，吃盡苦頭，終於逃出了匈奴地界，但還是沒找到月氏國，卻闖進了另一個叫大宛的國家。
大宛和匈奴是近鄰，當地人懂得匈奴話。張騫和堂邑父都會說匈奴話，交談起來很方便。他們求見了大宛王，大宛王早就聽說漢朝是個富饒強盛的大國，這會兒聽到漢朝的使者到了，很歡迎他們，並且派人護送他們到康居，再由康居到了月氏國。
月氏被匈奴打敗以後，遷到大夏附近建立了大月氏國，不想再跟匈奴作戰了。大月氏國王聽了張騫的話，一點兒也不感興趣，但是因為張騫是漢朝的使者，大月氏國王還是很有禮貌地接待了他們。