1．重回老家拾舊部，受師命組建淮軍
安徽合肥是李鴻章的老家，他的親朋好友都在那裏，李鴻章在曾國藩府上待了幾年之後，為人更加成熟，名聲自然在外，很多人都知道有李鴻章這號人物。李鴻章回家招募部隊，沒有費多大心力便卓有成效。那些兵勇也是一呼百應，紛紛聚集到李鴻章手下。
李鴻章將合肥西鄉裏的一些比較有名的團練都聚集在一起，這些比較有名的民辦團練負責人有周公山下的張樹生、張樹珊兄弟，大潛山北的劉銘傳，大潛山西南的唐氏兄弟，紫蓬山的周氏兄弟等。除此之外，還有解先亮、葉誌超等人領導的官辦團練。而在這些團練中，最善於打仗的是張氏兄弟、劉銘傳和周氏兄弟的三支。
當時，張樹生聽說李鴻章輔佐曾國藩，曾寫信給曾國藩表達過自己的豪情壯誌，他有意和周氏兄弟、劉銘傳一起做出點驚天動地的大事。曾國藩看了張樹生寫的信後，對李鴻章說：“張樹生就好比渡江北伐匈奴的東晉名將祖逖。”由於張樹生的年齡在這三支團練的領導人中最長，因此他是其他兩人的大哥。所以張樹生對李鴻章表示了投效之意後，大家也都紛紛表示讚成。
此時的李鴻章並未返歸故裏而是坐鎮安慶，通過寫信或派人聯絡等辦法，征召廬州一帶舊有的團練。李鴻章在安慶召集的團練中，最早編練的就是張樹生統率的樹字營和劉銘傳統率的銘字營。不久之後，周氏兄弟的盛字營和李鶴章招募的人也紛紛聚集在李鴻章手下。至於李鴻章的學生潘鼎新、吳長慶，他們的隊伍則分別被編為鼎字營、慶字營。由於多方的配合，在短短的兩個月之內，李鴻章就成軍數營。
同治元年（1862年）2月，李鴻章所募淮勇陸陸續續抵達安慶，其中有張樹生的樹字營，劉銘傳的銘字營，潘鼎新的鼎字營，吳長慶的慶字營等。其中，除了樹、銘、鼎、慶等四營外，還有張遇春統領的春字營，它屬於李鴻章在皖北辦理團練的舊部，現在重新歸於李鴻章指揮。