這次回來，他已經抱定了落葉歸根的主意。幾十年的官場生活，已讓他身心疲憊；近幾年的內憂外患，讓他深感無力回天。特別是創辦京師大學堂的風風雨雨，更讓他意識到，過去的“皇家教育”，學習的是脫離實際的《四書》《五經》，倡導的是學而優則仕，把人才統統逼到了仕途這一條羊腸小道上，當了官則不懂民生，考不上功名便百無一用，使許多少年才俊被科舉模式折磨成了“四肢不勤、五穀不分”的書呆子，窮困潦倒過一生；洋務運動和戊戌變法提倡的是“國家教育”，國家需要什麽人才，就培養什麽人才。國家需要翻譯人才，就開辦了“京師同文館”、“上海廣方言館”、“廣州同文館”等；國家需要建設海軍，就開辦了水師學堂、魚雷學堂、船政學堂；國家需要工程建設人才，就開辦了北洋大學堂、武昌礦業學堂……，後來，在戊戌變法中，還創建了“天字第一號”京師大學堂，雖然滿足了“國家”的一時之需，但難免不使人才削足適履，埋沒個人天性。而且，“國家的需要”實際上是隨著當權者的政策改變而改變的，一旦當權者的需要發生變化，或者政局發生更替，培養的專用人才不再需要了，“精品”就可能成為一堆“廢品”。甲午戰敗後，各種水師學堂、魚雷學堂、船政學堂關門大吉，而學生卻失去了用武之地，空有“屠龍之術”，卻生計無著，就是深刻的教訓。“天字第一號”雖然幸免於難，但不得不苟且偷生，看著權要的眼色行事，這與自己的教育理想相差十萬八千裏。
那麽，如何把教育辦出實效呢？經過反思，結合西方教育的成功經驗，孫家鼐認為，應該探索一條因材施教的“自家”教育模式。也就是說，針對每個人的天賦，物以類聚，人以群分，進行有針對性的個性化教育，培養每個人的專長，開發每個人的潛能，使其天生吾才必有用：平時，以一技專長服務社會；國家需要之時，則如囊中取物，招之即來，優中選優，用不勝用。因此，孫家鼐回到家鄉以後，就派人將已經敗落的孫家花園重新買了回來，加以修繕，作為開辦“自家教育”的實驗場所。對於求學者，他無償提供食宿，不收任何學費，但錄取標準很特別：胸懷大誌，誠實守信，勤奮刻苦，並有特長。