在蔡元培任職期間，北大真正確立了現代意義上的管理體製和教學體製。蔡元培很欣賞胡適的學識，對他的改革建議言聽計從，並對胡適委以重任，讓他施展才華。1918年，胡適要出版新書《中國哲學史大綱》，請蔡元培作序。蔡元培欣然同意，他在序中說：我們今日要編中國古代哲學史，有兩層難處。第一是材料問題：周秦的書，真的同偽的混在一處。就是真的，其中錯簡錯字又是很多。若沒有做過清朝人叫做“漢學”的一步工夫。所搜的材料必多錯誤。第二是形式問題：中國古代學術從沒有編成係統的紀載。我隻盼望適之先生努力進行，由上古而中古，而近世，編成一部完全的《中國哲學史大約》，把我們三千年來一半斷爛、一半龐雜的哲學界，理出一個頭緒來，給我們一種研究本國哲學史的門徑，那真是我們的幸福了！
在序言中，蔡元培聲稱胡適是績溪三胡之後，有漢學正宗的遺傳，“稟有‘漢學’的遺傳性”。胡適並不是漢學家績溪三胡的後人，蔡元培明顯犯有常識性的錯誤，但也有可能是蔡元培受到了胡適的誤導。胡適自己不敢以三胡之後自居，但他可以用各種方法向蔡元培等人暗示自己是徽州三胡之後，因為誰也不會去查證這件事的真假。後來蔡元培這個績溪三胡之後的說法，又被梁啟超等很多人接受。所以，梁啟超在《清代學術概論》中也說胡適“用清儒方法治學，有正統派遺風”。胡適不主動糾正這個錯誤，說明了胡適在北大不自信，也說明了胡適好名，他想給人們留下中西兼通和新舊融合一爐的形象。
1917年12月，北大成立哲學研究所，胡適被任命為主任。1922年4月19日，胡適當選為北大教務和英文學係的主任。從1918年10月下旬開始，胡適當選為北大評議會評議員，這是校內的最高立法機構和權力機構，參與學校的管理。胡適沒有辜負蔡先生的期望，在參與學校的各種機構和事務中，出謀劃策，獨當一麵。