杜月笙投師黃金榮門下，對黃金榮的勢力發展起到了很大作用。還有一個人的加入，使黃金榮在上海的勢力更為擴大，這個人就是號稱“猛虎”的張嘯林。
1877年6月14日，張嘯林出生於浙江寧波府慈溪縣的一個偏僻鄉村。張嘯林，排行第二，哥哥叫大林，所以父母為他取名小林，乳名阿虎。張嘯林這個名字，是他在上海當流氓出了名後才改的，取“猛虎嘯於林”之意。
張嘯林的父親是一個木匠，收入微薄，所以張嘯林自小就生活在貧寒之中。因為父母無暇管教，張嘯林自幼混跡於市井之中，習得一身痞氣。1897年，張嘯林20歲，因為老家鬧饑荒，所以張父帶著全家移居到離慈溪140多公裏的杭州拱宸橋，張嘯林與哥哥張大林一起進了杭州一家織造綢緞的機房當學徒。但是張嘯林不甘老實本分地生活，遊手好閑，專同地痞流氓為伍，不時糾眾滋事，尋釁打架，不幾年，就被機房老板開除了。
1903年，張嘯林決定投考浙江武備學堂。在武備學堂中，張嘯林與同學周鳳岐、夏超、張載陽等人結為密友，這些人後來都成為了頗有勢力的軍閥，對張嘯林成長為上海灘三大亨起到了重要的作用。
浙江武備學堂是個專門培養軍事人才的學校。張嘯林在入學以前已染上了地痞流氓的惡習，入學後不是把精力集中在學習上，而是用在與官府衙門的勾搭上，想以此為資本，抬高自己的地位，擴張自己的流氓勢力。所以還沒畢業，張嘯林便輟學，拜在杭州府衙門李休堂門下，充當李休堂的跑腿。
張嘯林酷愛賭博，而且賭技高超，每年春繭上市和秋季稻穀收獲之際，他便雇用一條小船，來到杭嘉湖一帶，以三粒骰子做賭具，巧立青龍、白虎等名目，引誘農民賭博，設計騙取農民錢財，引起了廣大農民極大的憤怒。後來杭嘉湖一帶人民寫狀上告，杭州府派人前來捉拿張嘯林，但是張嘯林通過關係，躲過了抓捕，逃到了外省，逍遙法外。