直到‘武帝駕崩、昭帝即位后，漢才改善了與匈奴的關系，兩國開始外交談判。但匈奴一直拒絕承認蘇武還活著。當時，匈奴的單于已經換了好幾茬，兩國和議也達成了，為什么還不愿釋放蘇武？蘇武牧羊的故事令古今各代的中國人感動，蘇武不屈的英雄形象也起著對后來很多封建王朝對待北狄蠻族的垂范作用——對單于和酋長們“以禮諭之”、“以節斥乏”，這樣的大漢使者們雖然不一定能夠完成外交使命，但在聲名上總會有加分，至少可以達到立言的效果。蘇武在北海生活多年，當然就非常了解匈奴的生態、氣候與虛實。匈奴給蘇武娶了媳婦，蘇武在那里還有了小孩，其中有個孩子名叫蘇通國，后來隨漢使回國，為蘇武延續了香火。在匈奴看來，男丁就是戰士，生育人口當然也就是國防建設的一部分，從這一角度上說，也算是蘇武變相給匈奴作出了貢獻。

在這樣的背景下，蘇武出使到了匈奴，而且，其副使張勝等還策劃綁架單于的母親，此舉導致兩國外交形勢急劇惡化。在屠刀面前，張勝投降，蘇武不屈被扣。兩國就此事件展開激烈交涉。恰在這時，不按牌理出牌的武帝，突然發動了對匈奴的新一輪攻勢。當時，霍去病已經早殤，武帝任命了新統帥李廣利。此人是武帝新寵李夫人的哥哥，是新得勢的國舅。衛青當時還健在，但因為衛子夫已經失寵，大將軍衛青只能負責東、西、南三面的戰線，不再參與對匈奴的作戰了。李廣利的軍事水平并不次于衛青，但他的戰績卻遠不如后者。因為，當時漢的軍事潛力和后勤供給能力，都已經遠遠不如衛、霍統率兵馬的時候了。

新的一輪攻勢兵分兩路;主力由李廣利率領西進，出河西走廊，直撲匈奴與西域的結合地帶，意圖掃清匈奴對漢朝準備占據的西域地區的威脅;李廣之孫李陵，率領一支步兵(所有好馬都已經撥李廣利使用)，北上進入匈奴境內牽制單于主力。這一戰漢朝失敗，李廣利先告敗績，李陵也基本全軍覆沒。李陵本人投降后，成了匈奴的大將。

蘇武因此更不可能回到漢朝。漢朝接下來連年進攻失利，匈奴失去西域的大部分土地，也感到了疲憊。于是，兩國較量的核心環節開始從直接軍事對抗，改為主要在西域各國作外交對抗。武帝晚年，國內民窮財盡，上層禍起蕭墻，國家陷入重重危機。主帥李廣利的家眷，因為國內的“巫蠱之禍”被滅，李廣利本人投降匈奴，被單于當作了祭天的犧牲品。而匈奴內部同樣還是天災人禍不斷，并沒有因為李廣利作了犧牲就有所改善，反而天災更加劇烈。古人云，大戰之后，必有兇年。窮兵黷武的漢匈雙方，也逃不脫這個規律。直到‘武帝駕崩、昭帝即位后，漢才改善了與匈奴的關系，兩國開始外交談判。但匈奴一直拒絕承認蘇武還活著。當時，匈奴的單于已經換了好幾茬，兩國和議也達成了，為什么還不愿釋放蘇武？

因為，蘇武在北海牧羊的地方正是匈奴與丁令(即后來的鐵勒)的邊界。我們慣常的認識，是蘇武牧羊的地方非常荒涼，沒有人跡，兔子都不拉屎。其實不然，那里有包括丁令在內的很多游牧民族，水草肥美，鳥語花香，草原上歌來歌往，熱鬧得很。后來，蒙古人的數次西征，出發點都離那里不遠。蘇武在北海生活多年，當然就非常了解匈奴的生態、氣候與虛實。匈奴給蘇武娶了媳婦(當然是匈奴人)，蘇武在那里還有了小孩，其中有個孩子名叫蘇通國，后來隨漢使回國，為蘇武延續了香火。在匈奴看來，男丁就是戰士，生育人口當然也就是國防建設的一部分，從這一角度上說，也算是蘇武變相給匈奴作出了貢獻。

這時的匈奴最不希望看到的，是掌握了匈奴虛實與規律的漢使們，回到漢朝，再帶著漢軍來攻打他們。尤其是蘇武這樣的杰出人物，回到漢朝，他就是又一個博望侯張騫了。這就是蘇武一行在匈奴的后期繼續被扣的主要原因，兩國的前仇倒成了其次了。但是，蘇武的部下常惠偷偷把蘇武的情況通報給了漢使，這樣單于不得不放歸了蘇武。蘇武，常惠回國以后，理所當然成為漢制定對匈戰略的高參。常惠后來搞了一個匈奴包圍網，包括匈奴西邊的烏孫、東邊的鮮卑、北面的丁令、南邊的漢朝，趁匈奴內部衰落而發起了對匈聯合軍事作戰。其中，常惠本人作為烏孫軍的參謀長，指揮烏孫軍重創匈奴。這一戰直接導致匈奴內亂分裂，呼韓邪單于南下投降。