第二次直奉戰爭的起因是江浙戰爭。當時，張作霖為了對抗直係勢力，與反直係的南方孫中山革命政權以及皖係殘餘勢力結成了反直係三角同盟。前文說過，皖係在直皖戰爭後一敗塗地，除了還剩下一個浙江督軍盧永祥以外基本上什麽都沒有了；而孫中山的革命政權，在第一次直奉戰爭中慘敗後，幾經周折，又於1924年年初打垮了陳炯明，重新建立了廣州大本營。從當時情況看，反直係三角同盟中最弱的一環是盧永祥，偏偏盧永祥因為曆史遺留原因還控製著上海這一富庶之地，這讓屬於直係的江蘇督軍齊燮元垂涎三尺，一直在尋找機會把上海這塊土地要回來。機會終於來了。1924年盧永祥接納了由贛入浙的閩軍臧致平和楊化昭部，把他們改編為浙江邊防軍4個師1個混成旅。在盧永祥看來，身處直係包圍之中，必須擴充自己的兵力才能夠自保。但在直係看來，此舉具有明顯的挑釁意味，也讓周邊其他省份失去了安全感。因此，蘇、皖、贛、閩四省聯合起來，於1924年9月3日爆發了以討伐盧永祥為目的的江浙戰爭。
本來，直奉之間還保持著一種弱勢平衡。盡管雙方都把對方當做最大的強敵，但由於誰都沒有必勝的把握而不敢輕啟戰端。再加上直奉之間也有一些和平的因素，比如張作霖與曹錕還是兒女親家，曹錕賄選總統事先也征詢了張作霖的同意。盡管張作霖對吳佩孚不感冒，但曹三哥的麵子還是要給的。此外，奉係的張景惠也是一個很強烈的主和派，他長期駐留北京，對通融雙方關係也起到了一定作用。因此，如果沒有什麽特別情況的發生，第二次直奉戰爭不會這麽快就到來。
但是江浙戰爭改變了一切。江浙戰爭關係著反直三角同盟的命運，張作霖無法坐視不管，否則何以立信於人？今後誰還敢跟他張作霖結盟？因此9月4日張作霖即發表致曹錕通電，嚴厲斥責直係不守信用，破壞和平。9月4日晚間，張作霖在大帥府召開旅長以上緊急會議，決定出兵討伐曹吳，組成鎮威軍。同一天，南方的孫中山在廣州大本營召開籌備北伐會議，決定北伐，遷大本營於韶關，任命譚延闓為北伐軍總司令，督率各軍分路進入江西、湖南。