張謇開辦了這麽長時間的企業，很快覺出人才的不足，人才不足，企業也就很難有持續的發展。而且技術也在不斷地發展，若人才後備不足，不是企業停滯不前，便是逐漸地落後，導致被淘汰。有一次，他和張之洞在一起的時候，也談到這個問題。張之洞也深思地說：“是呀，我早在考慮這個問題，必須要加強我們的技術後備軍，建立我們自己的人才隊伍。”
張謇說：“那我們就應當趕緊培養我們自己的人才隊伍，開辦學校，這是最好的方法。”
張之洞很讚成，說：“這個辦法是最好的辦法。”
於是，張謇便開始計劃籌辦自己的學校。對於人才的培養，此時的他有著自己一套獨立的思考路子。他上半生都是在科舉之路上艱難地跋涉，他深感傳統的官方教育方法的弊端，他放眼世界，看那些發達強國的教育，便逐漸領悟到了一些真的東西。必須要對中國的教育進行改革，對人才重新培養。
這樣，他便決心開辦學堂對人才進行培養，從而輔助自己實業的發展。
張謇當時說開民智、明公理，舍教育何由？指明人人都知道外洋各國的強大是因為軍隊，卻不知道外洋強大是因為知識，強調國家強大是因為人才，而人才都出自學校。不民胡國，不智胡民，不學胡誌，不師胡學。他認為想使國家強大，不再受列強的欺負，沒有學問沒有知識，也就根本沒有資格談這些事。懂文明，有知識的國家，即使一時落敗了，也一定會複興起來。
自從簽訂《馬關條約》以後，張謇就深層次地對世界的形勢予以審查，堅定地認為若不普及教育就一定會有亡國的危險。而普及的根本又在於師資的培養，也就是創辦師範教育。他曾在文章中說：
端其基礎，首在正蒙，小學是教育之母，師範又是小學之母。(張謇《變法評議》)