西漢高祖六年(公元前201年)，韓王信在大同地區叛亂，并勾結匈奴企圖攻打太原。劉邦親自率領32萬大軍迎擊匈奴，先在銅輥(今山西沁縣)告捷，后來又乘勝追擊、直至樓煩(今山西寧武)一帶。時值寒冬天氣，天降大雪，漢軍雖然“卒之墜指者十二三”，但見匈奴只有老弱殘兵，更是獲勝心切，便不顧前哨探軍劉敬的勸解阻攔，直追到大同白登山，結果中了匈奴誘兵之計。

當戰國七雄的爭霸戰爭即將落下帷幕的時候，匈奴人的名字第一次出現在史書上。沒有人能弄清他們的祖先是誰，也沒有人確切地知道他們從哪里來。他們就這樣悄然出現了。

后人曾經做了種種考證，希望弄清他們的身世之謎，可惜都是白費工夫。而最清晰的線索，反倒來自一個古老的傳說。故事要從夏朝的末代帝王桀講起。桀是歷史上有名的昏君，寵幸一個叫妹喜的女子，把國家弄得一團糟，于是有許多野心勃勃的人起來造反，偉大的商湯就是其中的一位。夏桀后來就死在商湯的手上。他的兒子和老婆們，為避開商湯的迫害，離鄉背井，逃到北方的大漠，跟隨牛羊四處漂泊，后來竟繁衍出許多子孫來，被戰勝的商人和后來的周人稱為匈奴。

無獨有偶，相似的故事還發生在羅馬人身上。羅馬人的祖先特洛伊人，與西邊的希臘人，進行了長達十年的戰爭，不幸為希臘人的詭計所敗，特洛伊城陷落，特洛伊國王普里阿摩斯死去。普里阿摩斯的子孫和親戚，為躲避希臘人的追殺，跟隨伊尼阿斯漂洋過海，逃到了荒涼的亞平寧半島，定居在那里。后來伊尼阿斯的子孫，被稱為羅馬人。羅馬和匈奴，這兩個日后的敵人，在他們民族的童年里，卻有著如此相似的不幸，這不能不贊嘆歷史的神奇。

匈奴人第一次出現在歷史上的時候，就與蒙古高原緊密相連。他們似乎到了蒙古高原之后，才有了匈奴的名字。而蒙古高原也因他們的出現，而走進世人的眼簾。當時的蒙古高原黃沙漫天，無邊無際，好像大海一樣，故而當時的人稱它作瀚海，今天又叫做大戈壁。按照現代地理學的知識來看，瀚海是一個高原盆地。古代的人們將這個盆地分為南北兩部分，也就是俗稱的漠南、漠北，大體以380毫米降雨線為界，與今天的內外蒙古相當。

大戈壁中，有一個叫做居延海的盆地，著名的額濟納河流入其中。沿河水草豐美，樹木叢生，是放牧的好地方。它的南邊是陰山山脈，草木繁茂，鳥獸眾多，非常適合打獵和休憩，是匈奴人生存繁衍的主要場所。陰山的春天是短暫的，夏天和秋天更是匆匆而過，一年最長的時間是冬天。這里的冬天是可怕的，晝夜溫差很大，不時會有狂風大雪。如此嚴酷的自然環境，造就了匈奴人的游牧之風和堅韌性格。

他們是蒙古高原上第一支游牧民族。每年冬天臨近的時候，他們就離開牧場，騎著高頭駿馬，趕著牛羊，四處游蕩，直到發現水草。除了馬、牛、羊外，他們還養些駱駝、驢、騾，他們雖然沒有城市，沒有房屋，但他們有氈帳，聚集的氈帳組成部落。每個部落都分有領地，供人放牧和打獵。

四處流浪的生活，造就了匈奴人的尚武之風。從孩提時開始，他們就騎在羊背上，拿著小弓，射殺天空的小鳥和地上的田鼠。再長大些，就能射狐貍和兔子。等成年后，就騎上駿馬，成為單于的騎兵。平常四處放牧，以狩獵為業，一旦有變，就全部入伍，投入戰斗。遠距離攻擊敵人時，他們依靠打獵的弓箭;短兵相接時，則使用切肉剔骨的刀鋌(一種鐵柄小矛)。打獵的工具就是他們戰斗的武器。他們沒有城池需要保護，所以也從來不固守在一個地方。仗打得順利，便勇敢向前;仗打得不妙，就迅速撤回，從不以后退為恥。

尚武之風的同時是尚力，年輕人是力量的代表，所以，匈奴人推崇年輕力壯的人，而歧視那些老弱病殘的人。年輕人吃肥美的肉，而老年人只剩下殘羹冷炙。

匈奴人還有一種浪漫的風俗：每天清晨的時候，朝著太陽祭拜;到了夜晚，則向月亮祈禱。當月滿如盤的時候，才能出兵征討;當月彎似鉤的時候，必須收兵而歸。他們也祭拜偶像和祖先，死后有棺槨，以金銀衣裘殉葬。但是，他們不起墳墓，也不在墳旁植樹為標志，更沒有正規的葬禮和守孝的禮節。單于去世的時候，常常以親近的奴仆和妾陪葬，有時多達數千人。