由於高語罕在蕪湖發動學生響應五四運動引起了巨大的社會反響，安徽督軍倪嗣衝和皖南鎮守使馬聯甲逼迫蕪湖省立五中將他辭退。
1919年7月，劉希平和五中學生在長江邊為高語罕送行。劉希平說：“國事糾紛，來日大難，前途安危，未可預料。今日小別，望諸君努力振作，不忘語罕先生幾年之教導。”
暑期過後，高語罕應安徽省立第二農業學校聘請到校任教，再次領導學生發起學潮，年底被迫離校。1920年初，高語罕來到北京考察北京政府的情形，並秘密參加早期的建黨活動。回到上海後，同陳獨秀接觸頻繁，並多次往返上海、蕪湖兩地，把《共產黨宣言》、《社會主義史》等著作以及《各國社會主義思潮》等刊物帶給學生們閱讀。
1920年冬，五中校長潘光祖病故。劉希平被學生推為校長後，立即聘請高語罕重返五中當學監。高語罕把董亦湘、鄭太樸、時紹武、武可權、沈澤民等介紹到五中任教。
1921年1月11日，高語罕給胡適寫信：“我現在把我三年來在中學校所教授的國文編輯出來，預備付印，給一般中學生作一個新文字的指導者。因為這是我大膽試驗過的，且為現在一般中等學校的青年學生所必不可少的，而一般國文教育翰林、舉人式的先生還在那裏‘古文詞類纂’纂個不停。又必得這種範本出來肅清他們，痛勸他們。等我抄好了，寄給你看看，還要請你指教指教。”
所謂“三年來在中學校所教授的國文”不僅僅是在省立五中和二農，還包括高語罕在蕪湖創辦的三個夜校（專門教育全市的青年店員）、一個工讀學校（教育有誌的青年苦學生）和美國教會辦的蕪湖萃文書院。此外，高語罕還教了三個女學生，都是當地的小學教員。高語罕在這些學校的講義，1921年1月由上海亞東圖書館出版發行，名為《白話書信》。