大學者，研究高深學問者也。
——蔡元培：《就任北京大學校長之演說》
離開南洋公學之後的蔡元培，先後創辦了愛國學社、愛國女學，並發起成立了中國教育會，堅持教育革新。蔡元培曾在《我在教育界的經驗》一文中談道：“我與次長範靜生君常持相對的循環論，範君說：‘小學沒有辦好，怎麽能有好中學？中學沒有辦好，怎麽能有好大學？所以我們第一步，當先把小學整頓。’我說：‘沒有好大學，中學師資哪裏來？沒有好中學，小學師資哪裏來？所以我們第一步，當先把大學整頓。’把兩人的意見合起來，就是自小學至大學，沒有一方麵不整頓。”[5]確實，各種程度的教育組成一個體係，所以不可偏廢一方。正如過去、現在、將來對一個人的成長而言，是緊密聯係、彼此影響的。當正在歐洲遊學的蔡元培接到北京大學校長的任命邀請時，麵對好友善意的勸阻，他還是回國了。對於中國的教育，他有許多未踐行的願望與想法。
1917年1月4日，北京大學迎來了新任校長——蔡元培。這座有著最高學府地位的大學是戊戌變法僅存的碩果，從創立之日起，就在時代和政局的激**中顛簸著。冬日裏的北京，大雪紛飛，當校工們在校門口恭恭敬敬地向新校長行禮時，蔡元培也脫下禮帽鄭重地向校工們鞠躬回禮。這樣的舉動讓校工們感到驚奇，要知道在那時，北大學生上課起立嘴裏喊的不是“老師好”而是“老爺好”。當時的北大學生多是八旗子弟、官宦之後，雖然表麵上北大是新式大學，但是教師和管理者也是舊派居多，所以當時便有人戲稱北大是“衙門”。彼時的蔡元培在歐洲遊學，回國接受北大校長的任命，為的不僅僅是治理北大，更是把北大當做中國現代大學的教育奠基。在就職演說中蔡元培強調，希望學生抱定宗旨，為學問而來，非為升官發財。他將“思想自由，兼容並包”的學術新風帶進了當時暮氣沉沉的北大。