根據以往的習慣，張謇丁憂是需要三年時間的，因此他回鄉之後這一段時間，過了一段較為清靜的生活，沒有了官場上的紛紛擾擾，爭爭鬥鬥，也使他能夠更為冷靜地對一切進行思考……
就在張謇丁憂的第二年4月，甲午戰爭失敗後的中國清朝政府命李鴻章全權代表赴日簽訂了不平等的賣國條約，即《馬關條約》。《馬關條約》割地賠款，日本帝國主義的侵華勢力更進一步地深入到了中華的內部，國內的漢奸賣國賊和外國的入侵者更加緊密地相勾結，讓中華主權更進一步地喪失。也使國人更加抬不起頭，甚是悲哀，仿佛中國從此不存在了似的。張謇在家聽說已經簽訂了條約這件事後，一段時間內真是心如死灰，好長時間說不出一句話。張謇在日記中悲憤地寫道：
和約十款，幾磐中國之膏血，國體之得失無論矣。反思起朝堂上種種，徒為口舌之爭，不能死敵，不能除奸，負父之命而竊君祿，罪尤無可逭也。
他對那個官場也徹底失去了信心，不再想著仕進。他在後來有所記述：
既成進士而父見背，不及視含殮，茹為大痛，國事亦大墜落，遂一意斬斷仕進！(張謇《張謇全集》)
中國為什麽會變得如此貧弱呢，為什麽會打不過一個小小的日本？恥辱呀，恥辱！
人們都在悲戚、歎息，有識之士在歎息之餘也在開動腦筋快速地思考著。像張謇這樣的人，更是日夜睡不著覺了。這輩子他是注定要洗完家恥，洗國恥。
小小的日本都打不過，不就是日本曾發生過明治維新嗎？那麽為什麽不能在中國也來一個明治維新呢？
當時中國最進步最有知識的愛國人士都想到了這個問題，何不在中國也來個明治維新？
自從19世紀70年代開始，中國的民族資本主義已經開始產生與發展，民族資產階級的力量也慢慢成長與壯大起來，對不適應資本主義發展的封建上層建築進行改良，成了他們的迫切要求，也是時代的必然要求。對外國入侵的抵抗、對不平等條約的反對成了中華民族的強烈願望。於此特殊情形下，中國國內的改良主義思想非常盛行，那些進步的知識分子們都崇尚和力主改良，希望依照西方資本主義國家的政治經濟製度來對中國社會進行改良。