1912年2月12日，清帝溥儀宣布退位。消息傳來，馮玉祥于大年初三(2月20日)登上去北京的火車。馮玉祥到了北京，先在西單橫二條的京畿軍政執(zhí)法處住下，在此與李鳴鐘不期而遇。李其時(shí)正在執(zhí)法處當(dāng)衛(wèi)士，是馮到北京后見到的第一位他的“二十鎮(zhèn)”袍澤。

2月29日，駐防京畿的陸軍第三鎮(zhèn)發(fā)生兵變，北京四城火光沖天，變兵大肆搶掠。兵變平息后，袁世凱對京師的拱衛(wèi)不再信賴北洋六鎮(zhèn)，決定編練中、前、左、右、后5路備補(bǔ)軍，即禁衛(wèi)軍之前身，委陸建章為左路備補(bǔ)軍統(tǒng)領(lǐng)。

左路備補(bǔ)軍轄中、前、左、右、后5營，馮玉祥被任命為前營(二營)營長;每營轄中、前、左、右、后5哨(連)，哨官相當(dāng)連長;每哨轄3排，每排轄3棚(班)。

雖然馮玉祥被委以二營營長，手下還沒有一兵一卒，便著手去直隸景縣招募新兵，隨行的有中營(一營)前哨哨長宋哲元。3月5日，馮玉祥前往景縣募兵，到10日為止，順利招滿一營新兵。應(yīng)募的新兵全部是貧苦農(nóng)民和手工業(yè)者，曾經(jīng)當(dāng)過兵的一個(gè)不要。要甄別后者，馮玉祥就提出了一個(gè)簡易辦法：令應(yīng)募者站成一列，突然大呼一聲口令“立正”，大凡當(dāng)過兵的，會(huì)本能地做出“立正”動(dòng)作。此次景縣招募的新兵中，有不少人日后成為西北軍著名將領(lǐng)，如孫良誠、劉汝明、佟麟閣、程希賢、韓占元、劉玉山、李長清、曹福林、安樹德、張俊聲、陳新起、張德順等。

馮玉祥帶隊(duì)回到北京，于正式編隊(duì)之前，先在南苑軍營對新兵進(jìn)行為期5天的簡單訓(xùn)練。這時(shí)的新兵沒有軍裝，更沒有武器，一個(gè)個(gè)蓬頭垢面，鶉衣百結(jié)，走到街上，猶如乞丐。用馮自己的話說：“怎么看也像一群叫花子，我自己就像一個(gè)花子頭。”

馮營在南苑滯留期間，仍有人前來應(yīng)募，如石友三、過之綱、馮治安等未來的西北軍將領(lǐng)。

在進(jìn)行術(shù)科教學(xué)中，為便于士兵牢記訓(xùn)練要領(lǐng)，馮玉祥親自編寫了三首軍歌：《戰(zhàn)斗動(dòng)作歌》《射擊軍紀(jì)歌》和《利用地物歌》，這三首歌后來成為馮軍著名的“三大軍歌”，歌詞摘錄《典范令》的要點(diǎn)，曲譜則借用基督教贊美詩的旋律。

半年之后，馮營告別三家店，移駐北京平則門(阜成門)內(nèi)，仍一邊訓(xùn)練，一邊守護(hù)設(shè)在北京城西南隅工部王恭廠的舊火藥庫。馮玉祥為官兵編纂一本名曰《精神書》的小冊子，其中分“道德精神”、“愛國精神”和“軍紀(jì)精神”三部分，凡80余條，每條都是格言式或語錄式的條目，“有過必改，過則勿憚改。人非圣賢，孰能無過？過而能改，勝于無過?！薄肮沤裼⑿?，百戰(zhàn)而不死，非是怕死，乃是真不怕死?！边@些條目官兵都要朝夕誦讀，會(huì)背會(huì)講，此后的西北軍也是如此。以致后來祖父韓復(fù)榘主魯時(shí)期，還能對《精神書》倒背如流。

1913年3月，一位19歲的學(xué)生在北京投效左路備補(bǔ)軍第二營中哨充親兵，這位年輕人就是后來的西北軍名將葛金章。

這年春天，左路備補(bǔ)軍訓(xùn)練告一段落，二營一部留在城里擔(dān)任勤務(wù)，負(fù)責(zé)城防，兼為外交部大樓等政府重要機(jī)關(guān)站崗;一部仍返回三家店守護(hù)陸軍部軍械局。韓復(fù)榘隨營部駐城內(nèi)。9月，左路備補(bǔ)軍奉命改編為“京衛(wèi)軍”，下轄左翼第一團(tuán)和左翼第二團(tuán)，陸承武營擴(kuò)編為左翼第一團(tuán)，陸任團(tuán)長;馮玉祥營擴(kuò)編為左翼第二團(tuán)，馮任團(tuán)長。

為了擴(kuò)編部隊(duì)，馮玉祥帶上李鳴鐘等幾位官佐頭目赴河南郾城一帶募兵。李是河南沈丘縣人，不到兩個(gè)星期，便招足1600名新兵，其中有吉鴻昌、梁冠英、張凌云、田金凱、趙廷選、魏鳳樓、程心明、雷太平、雷中田、田春芳、李團(tuán)沙、李曾志等，這些河南籍的新兵后來都成為西北軍第二代著名戰(zhàn)將。

另外，席液池、韓德元(韓占元的胞弟)、丁漢民、曹夢九等雖不是這次招的，不夠兵格，但被收在軍營伙房內(nèi)當(dāng)伙夫，3個(gè)月后補(bǔ)為哨兵。馮玉祥在第十六混成旅第一期模范連當(dāng)學(xué)兵期間，祖父韓復(fù)榘是他們的上級排長。

不久，馮營奉命開往北苑訓(xùn)練兩個(gè)月，其間新兵開始編制成營，每人領(lǐng)到一套黃色布軍裝(戲稱“黃馬褂”)，每哨發(fā)90支破舊的老槍，分單筒毛瑟步槍和雙筒毛瑟步槍兩種。馮治安初為伙夫，后補(bǔ)前哨哨兵。石友三初為馬夫，后補(bǔ)左哨哨兵。

5月中旬，馮營開往京西三家店，一邊訓(xùn)練，一邊守護(hù)陸軍部軍械局。

這時(shí)，居家的祖父韓復(fù)榘聽說老管帶馮玉祥在北京又當(dāng)上營長，時(shí)下正在邀集舊部，趕緊于6月初離家，很快就在京西三家店找到了馮玉祥。馮玉祥先安排祖父在二營任什長，未及1月，又讓他做起老本行———營部司書。

馮營在三家店駐扎半年，其間又有一些前二十鎮(zhèn)袍澤前來投效，如趙席聘、谷良友、張維璽、馬式彬、馮安邦等，初皆委以什長，旋即升為哨長。是時(shí)過之綱、孫良誠、韓占元、佟麟閣、劉汝明、程希賢、李長清、劉玉山、席液池等皆升為什長。

馮玉祥首先在營中成立三個(gè)講堂：官長講堂、頭目講堂和特別兵講堂。祖父韓復(fù)榘在官長講堂聽課。馮玉祥又創(chuàng)建“拳擊技術(shù)班”和“器械體操班”，旨在加強(qiáng)官兵體質(zhì)鍛煉。什長以上官佐有“圖上戰(zhàn)術(shù)課”。

不久，馮玉祥把新兵帶回北京，先安置在順治門(宣武門)外的一座大廟里住下，隨即編制成團(tuán)。

“老二營”擴(kuò)編為團(tuán)后，祖父韓復(fù)榘向馮玉祥明確表示：志在帶兵打仗，不愿再做案頭工作，馮玉祥便調(diào)他到二團(tuán)二營六連任排長。

馮團(tuán)編制完成后，即開往北苑訓(xùn)練3個(gè)月。1914年初，馮團(tuán)又調(diào)進(jìn)城里朝陽門內(nèi)東四祿米倉駐防。由于這里長年無人居住，環(huán)境骯臟陰冷，很多官兵都病倒了。不久，追繳白朗的命令下達(dá)，馮玉祥就帶著這支剛組建的部隊(duì)出征了。