李淵出身貴族。祖父李虎在西魏官至太尉(與丞相并列的中央高級官員)，李淵的妻子是北周武帝的外甥女，他的姨母是隋文帝的獨孤皇后、隋煬帝的母親。所以說，李淵不但是貴族，還是隋朝的皇親呢！他繼承了祖上的爵位，稱為唐國公。

公元617年，李淵出任太原留守，被派去鎮壓農民起義。雖然打過幾次勝仗，但農民起義隊伍越來越強大，隋王朝眼看快土崩瓦解，他不得不為自己考慮起后路來。

李淵有四個兒子，其中第二個兒子李世民最有才華、膽識。當時太原北面的突厥多次來犯，李淵出兵抵抗，連吃幾個敗仗，正在擔心讓隋煬帝知道了，追究起責任來，那可怎么辦。在封建社會，反抗朝廷被視作大逆不道的首惡，會遭致滅門之災，即使親如父子，彼此也不敢輕易道破。只是隨著形勢的發展，李淵的處境越來越危險，李世民才抓住機會，勸父親起兵反隋。

李淵聽李世民一說這個建議，嚇得直哆嗦，責怪道：“你怎么說出這種犯上作亂的話來？如果我向上一報告，你就要被砍頭的！”

李世民不慌不忙地說：“父親盡管去邀功請賞告發我，兒子才不怕呢！”

李淵無可奈何地搖搖手，叮囑兒子以后再也不要說這種話了。

可是第二天，李世民又來和父親談這個話題：“您受命來當太原留守，現在又要討伐造反的人馬，又要抵擋突厥的進攻，實在是力不從心。即使您再有功勞，當今皇上猜忌心重，您的處境就更危險了。兒子覺得您現在只有一條路，就是趕緊起兵反隋?！?/p>

李淵嘆了一口氣，猶豫地說：“你的話也有道理，我就是拿不定主意。一旦失敗，那可是要家破人亡的??！”

李世民見父親松了口，便繼續說道：“現在天下大亂，群雄并起，官軍力量分散，不難對付。我有個朋友叫劉文靜，現在關在晉陽(今山西太原)牢里，他是個人才，還可以幫我們招兵買馬?！?/p>

李淵聽從李世民的勸告，立刻把劉文靜從牢里放了出來，派他去招集人馬;同時又召回在河東打仗的兩個兒子——李建成和李元吉。

太原的兩個副留守一看形勢不妙，就想要阻止。李淵先下手為強，給他倆加了個“勾結突厥”的罪名，抓起來殺了。

李淵采納李世民的建議，派劉文靜去跟突厥結交，并送去一份厚禮，說服突厥可汗與自己一起反隋。當突厥可汗同意后，李淵沒有了后顧之憂，才正式起兵。他把士兵都稱作“義士”，自稱“大將軍”，分別封李建成和李世民為左右領軍大都督，封劉文靜為司馬。

李淵的策略是先取長安，以關中為根據地。他依照農民起義軍的做法，打開太原官倉，救濟貧民，收取人心，并發檄文聲討隋煬帝的罪惡。隨后，就帶著三萬人馬朝長安殺來。

攻占關中的第一個硬仗，是拿下了地勢險要的霍邑(今山西霍州)，全軍上下士氣大振。一路上繼續招兵買馬，所到之處都打開糧倉救濟貧民。老百姓對這支隊伍很有好感，加入進來的人越來越多，當攻打長安時，已經成了一支有二十多萬人的大軍。

李淵攻下長安后，取得號令關中的地位，立即廢除隋朝的苛法暴政，并宣布約法十二條，受到百姓的歡迎。

李淵見時機沒有完全成熟，暫時還是遙尊隋煬帝為太上皇，讓隋煬帝的孫子楊侑(yòu)做個傀儡皇帝，即隋恭帝，自己以唐王、大丞相的身份掌握一切軍國大政。

這時，各地起義軍都發展起來了，如李密領導的瓦崗起義軍、竇建德領導的河北起義軍、杜伏威領導的江淮起義軍等，都給隋軍以沉重的打擊。隋煬帝干脆躲到江都，繼續過著花天酒地的生活。

第二年夏天，護衛隋煬帝的禁衛軍將士，眼看著暴君的末日就快到了，不想跟著送死。大將宇文化及乘機發動兵變，攻進行宮，把隋煬帝軟禁起來。

隋煬帝起初還囂張地問道：“是誰帶頭這樣做的？”

將士們氣憤地說：“天下所有的人都恨透了你這個暴君，恨不得把你千刀萬剮，還需要哪個來帶頭殺你嗎？”

隋煬帝嚇得低下了頭，知道自己的死期到了，便解下巾帶交給看押他的衛士。

公元618年，李淵聽說隋煬帝在江都被宇文化及勒死的消息后，便把楊侑趕下了臺，自己做了皇帝，建立了唐朝，歷史上稱他為唐高祖。

隋煬帝雖然死了，但東都洛陽還在隋煬帝的孫子楊侗和大臣王世充手中。王世充擁立楊侗為皇帝，即隋越王，仍打著隋朝的旗號，繼續與起義軍為敵。

王世充打敗了李密統帥的瓦崗軍后，就把楊侗廢了，自己當皇帝，國號為鄭。這時，竇建德也自立為帝，國號叫夏。他們都是剛建立起來的唐朝的強大對手。

李淵派李世民等先后消滅了各支起義軍和割據勢力，直到公元623年，才使唐統一中國的戰爭基本結束。