1912年4月，高語罕冒死為韓衍收屍，料理完後事就向孫毓筠請了一筆官費，從青島赴日留學，住在若野町。到日本留學是因為他相信政治是救國的唯一方法，語罕潛心研究政治，預備回國後在政治舞台上“踢一腳”。這時他正式以“高語罕”作為自己的名字。
國內，袁世凱在取代孫中山成為中華民國臨時大總統後，逐漸大權獨攬。在善後大借款和完成南下軍事部署後，袁世凱即下令罷免江西、安徽、廣東三省的國民黨籍都督李烈鈞、柏文蔚和胡漢民。1913年7月12日，李烈鈞等人在江西湖口起義，宣布獨立，發起“二次革命”。
7月17日，安徽也宣布獨立。陳獨秀回到安慶，再次出任都督府秘書長。語罕也從日本回國，準備參加“二次革命”。不久，安徽獨立失敗，陳獨秀被列為第一名要犯。因為在安徽無法藏身，遂潛往上海。語罕這時住在上海靜安寺民厚裏留日同學劉希平處，常常同盧仲農、王肖山等商討對策，有時也去漁陽裏看望陳獨秀。
稍後，陳獨秀又潛至日本，語罕也回到東京繼續求學。陳獨秀幫助章士釗編輯《甲寅雜誌》，常常以文會友，同李大釗、高一涵、易白沙、張東蓀、梁漱溟等後來新文化運動中的領軍人物交往頻繁，語罕亦參與其中。李大釗也組織神州學會反對袁世凱，後又組織政治經濟學會從事研究，語罕也經常參加活動。
此時，安徽新任都督倪嗣衝對與革命黨有關係的語罕不放心，上任不久就把語罕的公費停止了。為了解決生計問題，語罕一麵埋頭讀書，一麵撰寫了大量的文章，就此掙點稿費補貼日常生活。由於生活異常艱難，語罕在1914年底回到上海，同陳延年等辦了“正德小學”，專門教育亡命上海的革命黨人子弟。
語罕一邊辦學，一邊在《民國日報》副刊上投稿。他還經常在《民呼日報》、《民籲日報》、《民立報》（是同一種報紙，因袁世凱迫害，先後兩次改名）上發表文章。