經過漢初幾十年來的休養生息，武帝在位初期國強民富。由于行之有效的國家馬政，西漢邊郡已養馬數十萬匹，組建起訓練有素的強大騎兵部隊，構成了對匈奴作戰的軍事基礎。公元前133年，漢武帝調集30萬兵力埋伏于馬邑周邊，欲一舉殲滅匈奴主力。但如此大規模兵力集結，很難保密，匈奴單于得知漢武帝計劃后，退兵出塞。這次未實現的伏擊開啟了漢匈之間近百年的戰爭。馬邑之謀固然展示出漢武帝的強烈進取心，但他畢其功于一役的好大喜功也暴露無遺。早在前138年，漢武帝的急于求成就初露端倪，他派張騫出使西域就為“欲事滅胡”。

漢武帝對匈奴用兵可分為三個時期：從馬邑之謀到前119年的漠北決戰，漢軍頻繁出擊匈奴;前118-104年間的停戰與政治和談階段，雙方要么無戰事，要么也是低烈度沖突;前103年之后武帝再度大規模出擊。前129年的龍城之戰，漢武帝派4萬漢軍分四路出征匈奴，然而其中三路或者無功而返，或者損兵折將，甚至全軍覆沒、主將被俘。龍城之戰西漢軍人一共死傷1.7萬，只有衛青一路斬敵700，攻破匈奴人會盟祭天的龍城，漢武帝首戰不利。

此后，在西漢對匈奴的進攻戰中，逐漸形成一套“間接”攻敵的戰略，由衛青和霍去病等優秀指揮官較好地貫徹執行。無論是衛青奪得并鞏固河套地區的兩次漠南之戰，還是霍去病攻下河西走廊的兩次河西之戰，漢軍一般有一路軍隊在非主攻方向發動佯攻，迷惑匈奴單于，令其難以支援，而主進攻方向也不是簡單的硬碰硬正面攻擊，多采用大范圍迂回、長途奔襲、出乎意料的奇襲等發揮騎兵速度優勢的戰略戰術。然而往往幾次勝戰后，漢武帝就犯了好大喜功的毛病，企圖用一場總決戰徹底擊敗匈奴人。結果卻往往是主力決戰準備過程漫長、物資消耗大，保密不佳，匈奴也做好迎戰準備，導致進攻的突然性喪失。

前123年的陰北之戰，漢武帝派大將軍衛青率6位將軍領10萬騎兵，一路大軍穿越陰山東段，直接攻擊匈奴單于，并沒有其他方向軍隊的策應和佯攻。是役，漢軍殺敵1.9萬，然而也損失了3000多精銳騎兵，更導致前將軍趙信兵敗投降匈奴。因此雖然獲勝，戰后衛青并未得到加封。

前199年，漢武帝發動漠北決戰，更是霍去病兩次河西戰役(前121年)取得輝煌戰果之后的頭腦發熱。漢武帝傾全國之力，調集的戰馬加上“私負從馬”共24萬匹，數十萬步兵運輸物資糧草、保障后勤，衛青和霍去病分別統領5萬騎兵，總兵力高達50萬人。是役，匈奴損失9萬多人員、大量戰馬和畜產。此戰后，匈奴在漠南(大致范圍是蒙古高原的戈壁荒漠以南)無法立足，向蒙古高原西北遷移。