匈奴是我國古代北方的一個游牧民族，秦末漢初發展成為強大的奴隸制國家。它到處向外擴張。在西面，它擊走了月氏，取得河西走廊，并出兵西域，殘酷統治西域各族人民，從而切斷了早已存在著的“絲綢之路”，同時它不斷騷擾漢北方諸郡，對漢朝構成了嚴重威脅。武帝即位時，漢的社會經濟已得到恢復發展，國力空前加強。于是，改變了先前對匈奴采取的“和親”政策，決計武裝反擊，根除邊患。漢武帝一方面派張騫兩次出使西域，尋找同盟力量，以“斷匈奴右臂”，另一方面派衛青等率騎出雁門、代郡、云中等地，打敗了匈奴的進攻，奪回了河套等失地。

元狩二年(公元前121年)，匈奴據守在西方的渾邪王殺休屠王，率四萬多人降漢，漢得河西走廊。元狩四年(公元前119年)，衛青、霍去病又率大軍深入匈奴腹地，與單于接戰獲勝，“匈奴遠遁，而幕南無王庭。”(《史記·匈奴傳》)匈奴勢力便日趨衰落。同年，張騫奉命再次出使西域。他順利地到達了烏孫(巴爾喀什湖、伊塞克湖一帶)，又分遣副使去大宛、康居、大月氏、大夏、安息等國。

張騫前后二次去西域，擴大了漢朝的影響。西域諸國早就知道漢是個非常富饒的國家，很想建立關系，苦于匈奴的阻撓，“欲通不得”(《史記·大宛傳》)。當下匈奴已遭受漢朝的打擊，當然更樂意與漢接近了。于是漢朝頻頻派人到西域，一年中出使的多則十余次，少的五六次;每次去的人有百余、數百不等，出現了“使者相望于道”的空前盛況。但這時匈奴在西域的統治還沒有根本動搖，一些國家懾于匈奴的壓力，故意刁難漢使，“禁其食物”。漢使“非出幣帛不得食，不市畜不得騎用”(《史記·大宛傳》)。幾個位于交通孔道口的國家，還常常“攻劫漢使”，以兵阻道。在這種情況下，元封三年(公元前108年)，漢發兵擊姑師(今新疆吐魯番、鄯善、奇臺一帶)、降樓蘭(今新疆若羌一帶)。太初三年(公元前102年)漢遠征大宛取勝，自此“西域震恐，都遣使來貢獻”(《漢書·西域傳》)。漢遂在敦煌到鹽澤(今羅布泊)之間設立了交通亭站，還在輪臺(今新疆輪臺東南)和渠犁(今新疆庫爾勒)等處屯田，置使者校尉，以保護漢與西域諸國間的交通孔道，天山以南地區便在漢的控制下。匈奴雖然仍盤據在天山以北，但已不能“自安”。神爵二年(公元前60年)，匈奴西邊日逐王率眾到漢西域地方長官鄭吉處投降，天山以此也歸屬于漢。漢“并護北道”，始設“都護”，匈奴在西域的統治至此全面結束。

更始元年(23)王莽被殺，李崇與內地失去聯系。匈奴乘虛而入，“略有西域”，“斂稅重刻，諸國不堪命”(《后漢書·西域傳》)，紛紛要求東漢王朝恢復“都護”管轄。南道上的莎車組織力量抗拒匈奴，保護著居留在西域的“故都護吏士妻子千余口”。不久，漢立莎車王為漢“西域大都尉”，五十余國都屬于莎車統領。爾后莎車、鄯善、車師、焉耆等國又派人到洛陽“請立都護”，東漢光武帝劉秀因“天下初定”，“匈奴未服”而沒有允諾。于是鄯善、車師、龜茲“復附匈奴”，莎車、于闐又互相爭雄，兵事不息。永平十六年(73)昭帝命竇固北征匈奴，取伊吾盧(今新疆哈密東)地，置宜禾都尉，于闐諸國派人到洛陽，翌年設都護，與內地斷絕了五十年的西域復通。但漢都護設置僅二年，到章帝繼位即罷，又棄伊吾屯田，地入匈奴。永元元年(89)，大將軍竇憲破北匈奴，第二年奪回伊吾地，班超定西域。漢遂以班超為西域都護，駐龜茲，并在車師前部的高昌壁再度設置戊己校尉，于車師后部增設戊部侯，完全恢復了漢在西域的管轄。這時，遠至條支(阿拉伯國家)諸國，都來與東漢建立關系。班超還派甘英出使大秦(羅馬帝國)，行抵條支，為風浪所阻，“臨西海而還”，沒有達到預期的目的。

班超在任十一年，因老病離開西域。繼任都護的不甚稱職，引起“西域背畔”。永初元年(107)“詔罷都護”。匈奴又乘機“收屬諸國”，一時間西北邊患鬧得很兇。延光二年(123)，敦煌太守張珰、尚書陳忠建議重開西域，以“震怖匈奴”。朝廷接納了他們的意見，派班超子班勇為“西域長史”，屯駐“柳中”(高昌壁東南)。龜茲、疏勒、于闐、莎車諸國隨即來歸附，東漢與西域中斷了的統轄關系得以恢復，從此，西域一直是東漢的一部分，但烏孫和蔥嶺以西的大宛便不再屬于漢了。