易卜生說：“你的最大責任是把你這塊材料鑄造成器。”學問便是鑄器的工具。拋棄了學問便是毀了你們自己。
——胡適，1929年中國公學十八級畢業贈言
胡適一生當過兩次校長。第一次是在他的母校——上海中國公學，第二次則是在被他視為母校的北京大學。有意思的是，兩次當校長的經曆都因政治原因而被迫終結，但他所堅持的辦學模式、教育理念、思想原則、文化追求，卻似一筆豐厚的財富被傳承了下來。
1928年春天，胡適出任中國公學校長，1930年5月5日胡適離任。兩年任期中，痛感“我們今日還不曾真正有教育”的胡適，率領全校師生協力改革，銳意進取，開創了中國公學曆史上的“黃金時代”。[6]
胡適上任後，發現學校連一本正式校規都沒有，便首先召開校務會議，通過“校務會議組織大綱”“教務會議組織大綱”和“學校章程起草委員會”等議案。他說：“我想從組織與法律兩方入手，不知有效否？”[7]
有了規章製度以後，胡適對學校事務便采取無為而治的態度。所謂“無為”，並不是什麽也不幹。胡適上任時，全校共有三百多名學生，分散於4個學院17個係，致使學校經費異常困難。為此，他大刀闊斧地裁掉工學院、法學院和經濟係，隻設文理學院、社會科學院以及中國文學係、哲學係、數理學係等6個係。為了溝通文理，他親自兼任文理學院院長，讓有誌於數理的人學點文史知識，有誌於文史的人學點自然科學。
為了提高教學質量，胡適邀請一大批著名學者前來任教，其中有人們熟悉的高一涵、張慰慈、楊亮功、羅隆基、梁實秋、鄭振鐸、陸侃如、馮沅君、全增嘏、葉公超、饒孟侃、黃白薇等。這裏特別要指出的是，胡適用人不僅看學曆，更注重學力。