1924年11月22日，北洋派元老段祺瑞隻身進入北京。23日，張作霖也從天津趕到北京。就在這一天，馮玉祥在政變中搞起的那個以黃郛為首的內閣全體辭職。24日，段祺瑞在陸軍部禮堂，宣誓就任中華民國臨時執政，同時發布新的內閣名單。段祺瑞壓根就不把馮玉祥放在眼裏，他上台後做的第一件事，就是將馮玉祥的軍隊從醇王府撤走，由市警察司令部派出護衛接替。而張作霖對這位在直奉大戰中幫了自己大忙的倒戈將軍，不但未表示謝意，反而越發認為他是一個“任何背信棄義的事都能做得出來的卑劣小人。他今天捅向吳佩孚的刀子，不知什麽時候又將捅向我……”更出乎意料的是，在將吳佩孚和馮玉祥做了一番對比後，張作霖對馮玉祥更加鄙視和憤恨，對吳佩孚倒是還保留了幾分敬意。
由於段祺瑞和張作霖都對馮玉祥沒有好感，所以決定將其驅逐出京，並不讓他在有出海口的地方發展。二人經過一番密謀，很快任命馮玉祥為西北邊防督辦，並希望他率部克日到任。
此時的馮玉祥被實實在在地搞了個灰頭土臉，自感無趣。但他絕不會就這樣乖乖地遠走西北，也不會輕易地放棄已經占據的北京。他將部分軍隊勉強撤至南苑、北苑兩地駐紮後，想出了一個慣用的策略，那就是辭去軍事統帥一職，解甲引退，同時宣布到西郊天台山（西山之支脈）一座佛寺裏靜養，除他的親信外，聲稱不再與任何人往來。馮玉祥的引退，又引起了社會的廣泛關注。但是，隻要稍有頭腦的人都不會相信這位倒戈將軍會履行自己的諾言；相反，倒是在紛紛猜測和議論下一個他要把刀子捅向誰。
社會上的種種議論也許是對的。此時的馮玉祥正在北京西山那座佛家寺院裏，召開秘密軍事會議。這個會議的中心議題就是殺人，目標則是段祺瑞、張作霖、曹錕和溥儀。他顯然是想再來一次更加震撼世人的北京政變。而出人意料的是，奉軍將領李景林也參與了這一政變密謀。