我進的第二個學堂是澄衷學堂。這學堂是寧波富商葉成忠先生創辦的，原來的目的是教育寧波的貧寒子弟；後來規模稍大，漸漸成了上海一個有名的私立學校，來學的人便不限止於寧波人了。這時候的監督是章一山先生，總教是白振民先生。白先生和我二哥是同學，他看見了我在梅溪作的文字，勸我進澄衷學堂。光緒乙巳年（一九○五），我就進了澄衷學堂。
澄衷共有十二班，課堂分東西兩排，最高一班稱為東一齋，第二班為西一齋，以下直到西六齋。這時候還沒有嚴格規定的學製，也沒有什麽中學小學的分別。用現在的名稱來分，可說前六班為中學，其餘六班為小學。澄衷的學科比較完全多了，國文、英文、算學之外，還有物理、化學、博物、圖畫諸科。分班略依各科的平均程度，但英文、算學程度過低的都不能入高班。
我初進澄衷時，因英文、算學太低，被編在東三齋（第五班）。下半年便升入東二齋（第三班），第二年（丙午，一九○六）又升入西一齋（第二班）。澄衷管理很嚴，每月有月考，每半年有大考，月考大考都出榜公布，考前三名的有獎品。我的考試成績常常在第一，故一年升了四班。我在這一年半之中，最有進步的是英文、算學。教英文的謝昌熙先生，陳詩豪先生，張鏡人先生，教算學的鬱耀卿先生，都給了我很多的益處。
我這時候對於算學最感覺興趣，常常在宿舍息燈之後，起來演習算學問題。臥房裏沒有桌子，我想出一個法子來，把蠟燭放在帳子外床架上，我伏在被窩裏，仰起頭來，把石板放在枕頭上做算題。因為下半年要跳過一班，所以我須要自己補習代數。我買了一部丁福保先生編的代數書，在一個夏天把初等代數習完了，下半年安然升班。