南通師範學校的開辦成功，鼓舞了張謇的鬥誌，也吸取了不少成功的經驗及教訓。緊接著他又辦起了南通女子師範學校、甲種師範講習所、乙種小學教員講習所、盲啞師範傳習所、東台母裏師範學校等。由他所提倡或資助而創辦起來的還有兩淮師範、龍門師範、金陵高等師範等多所學校，對全國影響都很大。
不少進步的知識分子，於此新形式的推動下，也紛紛對張謇的私人辦學進行效仿。像翰林沙元炳也建立起了私立如皋師範，並且他們也總是像張謇一樣，把佛像砸掉，把廟宇變成為學堂。中國呈現出一派學習和蔑視封建迷信，務實求進的富有生氣的新氣象。
與此同時，張謇也向朝廷上書，請求於全國範圍內廢除科舉，開辦學堂。在他的強烈要求和呼籲下，終於在一年之後，湖北和江蘇先後建立起了官辦的師範學堂。
這也是張謇對中國教育的又一大貢獻。
張謇的師範教育造就了中國由正規院校培訓出來的第一批師資隊伍。張謇在此基礎上，又因勢利導，開始抓起了普及教育，進一步推進實業與實施他的村落主義培養人才。他執行的方法主要是抓住兩點，首先是學堂的布局，其次是學堂的管理。張謇打算於農村每十六平方裏範圍內，開辦一家初級小學。南通總共是八千平方裏，張謇想要開辦五百所這樣的初級小學。按步驟一步一步地進行。用不了多少年，教育之網就能夠形成。為了開辦與管理的方便，他認為規模不能太大，應當精於機構。他的方案是，一所初級學堂任命一名總理，也就是校長；任命兩到四名教習，任命監班、司收支和司圖書儀器各一人或者是增一名司書記；對於教師，按照他的教學成績之良莠分別授予國子監丞、博士、學正、助教等名義，讓他們的職務和名稱相符；對於中師或高師畢業的學生，授予貢生、舉人或者是進士的稱號。