就在張嘯林返回上海不久，江浙大戰打響了第一炮，這第一炮的位置在江蘇的黃渡，由蘇軍挑起。1922年4月，曾在直皖戰爭中並肩作戰的直、奉兩係軍閥因爭奪對北京政府的獨立控製權大起刀兵，爆發了第一次直奉戰爭。曹錕、吳佩孚攻擊奉係張作霖親日賣國而騙取了人民的同情與支持，一舉將奉係軍閥的勢力趕到了關外，從而獨掌北京政府。第一次直奉戰爭後，曹錕急欲登上總統寶座。為能早日被選為大總統，一方麵指使手下趕走了黎元洪，一方麵則不惜使用金錢收買國會議員。曹錕的舉措遭到了全國各界的強烈反對。盧永祥深受直係軍閥的擠壓，為爭取全國輿論的支持，於1923年6月27日率先通電，反對曹錕賄選總統。
盧永祥這一招走得很成功，與此同時，各反直勢力雲集滬、杭，商討聯合反直事宜，滬、杭儼然已成反直活動的中心，浙盧與蘇齊及其直係軍閥已成水火不容之勢。1923年10月10日，曹錕通過賄選登上總統寶座。12日，盧永祥發表通電，不承認曹的總統地位，並聲稱與北京政府斷絕一切聯係，這就使曾為曹錕賄選籌措經費出了大力氣的齊燮元與盧永祥矛盾更深，而後福建及周邊地區被直係勢力收編，並直逼浙江。1924年9月3日，駐江蘇黃渡的蘇軍首先向浙軍開槍挑釁，拉開了江浙戰爭的帷幕。
張嘯林在得到消息之後，第一時間帶著一車慰問品趕到黃渡，當時盧永祥由臧致平陪同，早一日驅車去了鬆江防地，楊化昭在旅部會見了他。張嘯林沒等到盧督軍，自行先把帶來的東西拿出來慰勞前線士兵，以鼓舞士氣。張嘯林和駐地旅長楊化昭在聊天的時候知道，駐守黃渡的正是當初自己被扣押的那個團，於是心生複仇之計。那楊化昭聽完張嘯林的計策，也不得不拍手稱讚。
當天晚上，在離黃渡五裏開外的一個土地廟裏。張嘯林到來的時候，一個農民打扮的年輕人已經在那扒拉火堆上的柴火。他進來之後關緊大門，仔細觀察來人，確認是當時看管自己給自己送肉吃的士兵，他因加入團部偵察連表現優秀，已經升職做了團部偵察警衛連副連長了。張嘯林花費了許多氣力，通過各種關係，才把這個人請到這裏來。