東北淪陷后，日本企圖將華北五省(冀、察、魯、晉、綏遠)、三市(北平、天津、青島)“自治”，扶植起第二個“滿洲國”，以脫離統一的南京國民政府，日軍為了實現這一陰謀，企圖以二十九軍和冀察政務委員會為控制華北的工具。日軍企圖通過北平特務機關來削弱駐華北地區守衛疆土的二十九軍，來配合其軍事上的直接侵略，以達到武力所不能起到的作用。

日軍于1935年在北平東交民巷臺基廠頭條胡同7號設立北平特務機關。第一任機關長是松室孝良少將。他曾在西北軍中擔任軍事顧問，是一個“中國通”，因此他和二十九軍的宋哲元、馮治安、張自忠等也很熟悉。特務機關成立后下設顧問部，分為軍事、外交、經濟、建設和交通等部門。各部門都有負責人，軍事部門由櫻井德太郎少佐擔任，外務方面是矢野征記，通信方面是長佐谷臺。松室一上任，就表示了設立此機關的目的，“我們是代表國家軍隊駐扎在北京，擔任冀察政權的指導。盡力做到對他們親密提攜，深入對方的內部吸引他們靠近日方的想法，環境惡劣時保持絕對中立。如果把冀察當做對立面，機關存在的意義就沒有了，我們工作的價值也就為零了”。

北平特務機關主要有兩大任務：一是刺探二十九軍的軍事情報，如駐軍、編制和軍事部署，及軍隊領導人的家庭生活信息;二是利用庚子賠款培養親日派人士。1936年12月松室孝良轉任北滿騎兵第四旅團長，松井太久郎接任機關長，加緊對冀察政務委員會的控制。

北平特務機關對我華北的軍事部署進行了一系列的刺探活動，他們詳細地調查了冀察政權和二十九軍軍、師、旅、團、營、連駐軍及負責人姓名和各保安隊分布情況，對二十九軍的布防情況了如指掌。此外，日本特務機關還特別重視搜集二十九軍軍事將領的行動情報，利用他們的喜好或者通過策反他們身邊的人，時刻了解他們的一言一行，收買其軍事將領。1937年7月19日，宋哲元乘專列從天津到北平，當火車開過楊村時，宋哲元用熱毛巾擦過臉。喝了幾杯茶后，突然對身邊的陳覺生說道：“每年山東都有蝗蟲，今年這邊還沒有看到蝗蟲群啊。”這看似不起眼的一句閑話，也都被人密告到日本特務機關。

北平特務機關在搜集了二十九軍內部的相關情報后，便開始對二十九軍內部進行分化瓦解。松室孝良曾告訴手下：“我們應盡全力謀求與冀察親睦提攜，打入其心中，誘導其成為日本的伙伴。”此外，特務機關還不斷挑撥二十九軍和中央軍及二十九軍內部的關系，揚言“日軍此次行動，系擁護冀察利益，拒止中央軍來占冀察地盤”。

雖然二十九軍內部出現了親日派，但是北平特務機關的分化工作，也只對少數將領起到了作用。于是他們對二十九軍的主要將領實行了一系列暗殺活動。

蕭振瀛是籌建二十九軍的骨干，在冀察政務委員會成立后任經濟委員會主任委員，不久被國民政府任命為天津市長。蕭奉命負責對日交涉，堅持“不說硬話，不做軟事”的原則，以地方政府說了不算為理由，與日軍方周旋。1936年5月，天津發生學生運動，蕭以市長身份和學生進行談判。日軍不能容忍他繼續留在華北，而對宋哲元施加壓力，逼其去職。蕭去職后暫住北京香山寓所，當日本特務刺探到“蕭氏下野后，還在左右著宋哲元的行動，還在決定著二十九軍的軍務”時，日軍便指使石友三去搬弄是非，未果，決定采取暗殺行動。當馮治安從何應欽那兒得知日方暗殺蕭的計劃時，便火急命何基灃組成“香山衛隊營”保護蕭振瀛，蕭得以幸免。

這位馮治安，是二十九軍的骨干籌建者，任二十九軍三十七師師長，曾在1933年喜峰口戰役中積極抗戰，七七事變時擔任北平城防司令，在冀察政務委員會成立后任河北省主席。在七七事變前一天，馮治安在保定接到報告稱日軍在長辛店和盧溝橋附近舉行軍事演習，出動人員極多，并攜有重武器。作為二十九軍的代理軍長(此時宋哲元在山東樂陵)，他感到情勢危急，當即乘專列趕回北平。當時日軍準備在長辛店附近炸毀馮治安的專列，因錯過時間陰謀未得逞。

宋哲元是二十九軍的軍長、冀察政務委員會委員長，因宋在中原大戰中反對蔣介石，而被日軍方看中，認為宋能在其策劃的“華北自治”中起到舉足輕重的作用。日本希望能同宋簽訂《華北防共協定》，以脫離南京國民政府，被宋拒絕。后日本邀宋訪日，宋又拒絕。為躲避日軍糾纏，1937年5月，宋哲元回故鄉山東樂陵，任命馮治安代理二十九軍軍長，指定秦德純負責對日談判。7月11日，宋哲元從山東回到天津，處理對日關系。宋一到天津，就被張允榮、陳覺生、齊燮元等包圍，立感天津氣氛不對，這時又接到李世軍轉達的蔣介石密電(電話暗語)，得悉有陰謀對自己下毒手的消息，遂提高警惕，不在外吃飯。7月18日，宋哲元會見香月清司，日方要求宋簽訂和約，宋對香月態度極為和緩，說要回北平與馮治安等商量，于19日上午七點半乘火車逃離天津。此時日軍方已認定宋哲元不可能再被利用，其存在對他們吞并華北將是一個阻礙，決定對他采取行動，在楊村附近放置炸彈，企圖炸死宋哲元。所幸宋哲元經過時，炸彈未爆炸，日軍方的暗殺陰謀未得逞，宋于上午十點到達北平。

劉汝明也是老西北軍將領，二十九軍組建后，先任副軍長，后任暫編第二師師長。因在羅文峪戰役中立功，國民政府將暫編第二師正式編為一四三師，駐防察哈爾省，劉任師長兼察省主席。1937年7月25日，宋哲元給在北平的劉汝明打電話說：“子亮，你趕快回去，照計劃做，八月一號行動。”但他們的通話已被日本特務機關偵知。劉汝明匆忙只帶著母親從平綏鐵路往張家口趕，當“車過沙河站后約十分鐘，日軍即趕抵沙河，強行拆除路軌五百公尺”，企圖阻止劉汝明回察省抗戰。但因日軍晚來一步，劉安全到達張家口。

另外，早年參加西北軍，時任三十八師參謀長的張克俠，也遭到了“交通事故”和“不明身份浪人”的襲擊。

日軍特務機關除對二十九軍和冀察政權進行分化、對二十九軍主要將領進行暗殺外，還直接以宋哲元的名義、用假的圖章、簽名偽造二十九軍的作戰命令等活動，試圖擾亂二十九軍的指揮系統，在此就不一一贅述了。