首先，李淵聽從劉文靜等人的建議，制定了“乘虛入關(guān)，號(hào)令天下”的戰(zhàn)略。當(dāng)時(shí)天下雖然群雄并起，但許多人并無(wú)大的志向，只圖據(jù)地自保，或是瞻前顧后，猶豫不決。李淵的起兵戰(zhàn)略，以入關(guān)奪取長(zhǎng)安為軍事目標(biāo)，以開創(chuàng)帝業(yè)，最終取代隋為政治目標(biāo)。在實(shí)現(xiàn)目標(biāo)的過(guò)程中，又強(qiáng)調(diào)以“廢皇帝(指隋煬帝)而立代王”為策略。

第二，募集兵士，擴(kuò)充地盤。李淵起事后，讓部下開倉(cāng)賑濟(jì)貧民，公開募兵。據(jù)《大唐創(chuàng)業(yè)起居注》記載，每天有千余人來(lái)投軍，“二旬之間，得眾數(shù)萬(wàn)”。

第三，北結(jié)突厥。隋末，東突厥汗國(guó)崛起，控弦之士40萬(wàn)人。北方豪強(qiáng)武裝都以突厥為后援，向其稱臣。李淵也深知以太原為根據(jù)地起兵南下，必須處理好與突厥的關(guān)系。否則突厥包抄后路，后果不堪設(shè)想。他在出任太原留守時(shí)，就曾對(duì)李世民說(shuō)：“歷山飛不破，突厥不和，無(wú)以經(jīng)邦濟(jì)時(shí)也。”李淵用空城計(jì)嚇退突厥兵后，立即親自寫信給突厥始畢可汗，說(shuō)：“我今大舉義兵，欲寧天下，遠(yuǎn)迎主上(指隋煬帝)還，共突厥和親。……若能從我，不侵百姓，征伐所得，子女玉帛，皆可汗有之。”題封署稱“啟”，表示對(duì)始畢可汗非常恭敬。始畢可汗得書后大喜，但堅(jiān)持要李淵稱臣于突厥。李淵為免突厥包抄后路之患，只好答應(yīng)。起兵南下之前，突厥送來(lái)戰(zhàn)馬千匹。南下至龍門時(shí)，突厥始畢可汗又派500人、2000匹馬趕來(lái)助戰(zhàn)。突厥人、馬的補(bǔ)充，使李淵的騎兵力量大大增強(qiáng)。

第四，東和李密。李淵起事后，為使東面有30萬(wàn)人馬、戰(zhàn)將千員的李密起義軍不致成為自己進(jìn)兵關(guān)中的掣肘，令溫大雅帶著他的信去見李密，信中一面吹捧李密是當(dāng)今天下大亂之際唯一能寧世安民的英雄，表示對(duì)李密的擁戴;一面剖白自己胸?zé)o大志，無(wú)意滅隋，從而使李密放松了對(duì)他的警惕防范。

六月初五日，李淵在晉陽(yáng)設(shè)起義堂(亦稱號(hào)令堂)，將軍隊(duì)分為三軍，統(tǒng)稱“義士”。裴寂等尊稱李淵為“大將軍”。十四日，李淵在晉陽(yáng)建大將軍府，以長(zhǎng)子李建成為隴西公、左領(lǐng)軍大都督，統(tǒng)率左軍;以次子李世民為敦煌公、右領(lǐng)軍大都督，統(tǒng)率右軍;以四子李元吉為姑臧公，統(tǒng)率中軍。以裴寂為大將軍府長(zhǎng)史，劉文靜為司馬，殷開山為掾，劉政會(huì)為屬，長(zhǎng)孫順德、王長(zhǎng)諧、劉弘基、竇琮為左右統(tǒng)軍、副統(tǒng)軍。并下令開倉(cāng)放糧。