張騫的歸國之旅中讓他沮喪的是，在回國途中，又被匈奴的巡警捉住。其實為避開匈奴，張騫已經選擇了大沙漠的南邊邊緣，循昆侖山北麓的“南道”。沿著祁連山脈，走羌人牧區回國。但是匈奴人事先得到情報似的，又將張騫捉住。軍臣單于吃驚地說：“怎么又是你？”他倒不生氣，讓張騫回自己的營帳，跟原來的匈奴老婆，過游牧的匈奴式婚姻生活。不幸中的萬幸，張騫又和老婆團聚了(匈奴人居然還很講究人道啊)。

一年以后，匈奴單于去世，左谷蠡王和太子爭奪單于之位，大打出手，匈奴國內一片大亂，張騫和堂邑父商量借機逃走。張騫的匈奴老婆領著兩個孩子進營帳說：“你又要拋下俺么？”張騫一呆，不知該說什么好。老婆說：“既然長安那么好，帶俺們娘倆一起去吧！”“好啊！”縱然是百折不撓的張騫，到此時也不由得紅了眼圈。

從武帝建元二年(前139年)出發時一百多條好漢，至元朔三年(前126年)歸漢時僅剩下張騫和堂邑父二人，西域的打通，可以說是用冒險者的生命換來。張騫是中國歷史上少有的探險英雄，貢獻和所冒風險都遠大于后世的鄭和。他為中國發現了一個廣闊的“西域”，幾乎可以與哥倫布發現“新世界”媲美。張騫回到漢朝后，封爵博望侯，他的領地，就在河南方城，古之博望，演義中說孔明火燒曹軍于“博望坡”，正是此處。

張騫在向漢武帝報告西域情況時，提到了一件讓漢武帝怦然心動的趣聞。原來張騫在希臘人后裔建立的大夏國(當時被大月氏降服)的市場里，看到了來自漢朝西南地區的邛竹杖和蜀布。張騫大為好奇，這是中國的特產，怎么會運輸到這里來？問大夏商人，這些希臘移民后裔回答說：“是從身毒買來的？”張騫更好奇了，身毒是個什么國家？

大夏國人說：“身毒在大夏東南可數千里。其俗土著，大與大夏同，而卑濕暑熱云。其人民乘象以戰。其國臨大水焉。”最后中國人再一翻譯，成了身毒，到后來，又翻譯成天竺、印度。

張騫想，這個身毒在大夏東南，有中國西南的貨物，可以推測他與中國蜀郡距離不遠。

張騫的這個推斷讓漢武帝很是興奮，從西方去大月氏要經過匈奴，太難了。如果能從南方繞道身毒去西方，豈不有安全又便捷！

于是漢朝派出使節，取道西南夷前進，尋找通往西域的道路。結果西南地區的氐、筰、巂、昆明幾個小國都拒絕放行，道路艱難，治安又差，漢朝的使節，不是被強盜殺害，就是莫名其妙地失蹤在叢林中。最后到了夜郎國和滇國，算是西南地區文明程度比較高的大國，夜郎國和滇國國君聽說漢朝時節到來，不約而同地發問：“夜郎國(滇國)和漢朝相比，究竟哪一個比較大呢？”這話真是很雷人。

對于昆明強盜的劫道惡行，漢武帝終于也不能忍受，他聽說云南有個滇池，認為要和滇人打水仗，于是挖了昆明池訓練水軍，又派了將軍郭昌、衛廣清剿土匪，殺了數萬人，但是大軍一退，土匪又起，這條道還是不通。不過漢武帝很快就忘記了昆明，因為在漢朝和匈奴的大戰中，漢朝軍隊取得大勝，整個河西走廊，歸屬漢朝統治，漢朝軍隊修筑西長城，一直把關口設置到玉門，是為玉門關，從此，漢朝的國土西部邊境，直接與“西域”接壤。