劉峙，字經扶，別號天岳，1892年6月30日（光緒十八年六月初七）出生于江西省吉安縣（現吉州區）長塘鄉廟背村。劉峙幼年喪父，由母親及叔祖父劉進寬撫養成人。劉峙7歲啟蒙于私塾，1905年在啟蒙老師劉部荃的幫助下，東渡日本求學。

因同年孫中山在日本成立同盟會，日本政府應清廷要求，取締中國留學生，劉在東京不到一個星期便被遣送回國。

劉峙返回吉安后，在天主教所辦的西學堂學習英文，1907年，投考湖南陸軍小學第三期肄業，后升入武昌陸軍中學第三期。辛亥革命爆發后，他加入學生軍，守衛武昌，后到南昌充當憲兵。

1912年7月劉峙轉學清河鎮陸軍第一預備學校，1914年12月考入保定軍官學校第二期步兵科，1916年5月畢業，被分配到冀東開平的巡防旅。數月后南下廣東，先入岑春煊的兩廣都司令部任都司令部上尉部員，后改為上尉參謀，不久到云南滇軍朱培德部下任連長。護法運動期間，與陸榮廷及陳炯明作過戰。

1924年4月，經何應欽介紹，劉峙任黃埔軍官學校戰術教官，旋又調校本部參謀處當科長。是年底，黃埔軍校成立了教導團，何應欽任第1團團長，劉峙擔任該團第2營營長。從此，劉峙與何應欽、顧祝同、錢大鈞、蔣鼎文、陳繼承等結成一團。他與顧祝同被時人稱為何應欽的“哼哈二將”。

1925年2月第一次東征時，劉峙奉命率第2營全體官兵與陳炯明叛軍接戰于淡水圩及羊塘圃，尤以揭陽縣棉湖之役最為慘烈。劉部與友軍配合擊潰數倍之敵林虎部，獲得全勝，繼而進占五華與寧梅縣。4月，教導團第1、2團合編為國民黨軍第1旅，何應欽升任旅長兼第1團團長，劉峙升為教導團第1團團附代理團長職務。6月，滇桂軍劉震寰、楊希閔在廣州叛亂，圍攻大元帥府，劉峙奉令回師戡亂，鏖戰不及半日，即將楊劉兩部討平，劉正式升為上校團長。

同年第二次東征，劉峙率領第一團扼守河婆，支援華陽。

敵謝文炳等部萬余人向河婆狂攻，在眾寡懸殊的情況下，劉親率所部突入兩岸敵軍之間，與敵格殺，將其擊潰。事后，蔣介石稱贊劉峙：“華陽一役，為成敗最大關鍵，劉團長能出奇制勝，轉危為安，誠革命前途之大幸也。”

1926年2月，劉峙升任國民革命軍第20師副師長兼參謀長，不久升任第一軍第2師師長，衛戍廣州。3月發生的“中山艦事件”中，劉峙與海軍將領歐陽格密切配合，逮捕了中山艦艦長共產黨員李之龍，并將各團中的共產黨黨代表、政工人員等一律拘禁。

1927年3月16日，劉峙奉命移駐上海，擔任交通警備，四·一二大屠殺中，劉峙充當了蔣介石鎮壓革命運動、殺害共產黨人的幫兇，成了蔣介石的心腹和“八大金剛”之一。

1927年7月下旬，南京政府北伐軍兵敗徐州，總司令蔣介石被迫下野，部隊全線潰退，孫傳芳軍自8月26日起渡江南侵，晝夜偷渡。到29日夜，孫軍渡江部隊均聚集龍潭，約達5萬余人，據守龍潭以西各險要。為配合李宗仁第七軍的軍事行動，劉峙帶傷親赴前線指揮，勇猛反擊，擊潰孫軍主力，扭轉關鍵戰局，迫使其倉皇向

江岸潰退，當日午后5時完全克復龍潭，已渡江的孫軍除一部分逃回北岸外，全部就殲。

不久，劉擢升為第一軍軍長兼第2師師長，率部移防上海。11月，因孫傳芳、張宗昌的部隊猛烈反攻，劉峙率部沿津浦線北進，擊潰了孫傳芳部，相繼占領了蚌埠、徐州。劉峙被何應欽譽為“福將”，同年冬兼任軍事委員會委員。

1928年1月，蔣介石復職，繼續北伐。劉峙升為第一集團軍（蔣介石兼集團軍總司令）第一軍團總指揮兼第一軍軍長，指揮各軍連續攻克泰安、濟南。由于日軍挑釁，造成“濟南五三慘案”，蔣介石命令北伐軍繞道濟河，繼而克復平津，完成北伐。以后各軍開始縮編，劉峙改任第1師師長。

1929年3月，國民黨召開第三次全國代表大會，劉峙當選為中央執行委員。

不久，蔣桂戰爭爆發。劉峙、朱紹良的第一、二軍被編為第二路軍，劉峙任總指揮，沿長江進攻武漢。4月1日，劉峙部攻占黃岡，5日，將桂系部隊擊潰，進入武漢，劉被任為武漢衛戍司令。不久，劉峙又擔任國民黨編遣委員會直轄第二編遣分區主任，指揮湖北境內部隊。