1927年2月23日，中共中央成立上海工人第三次武裝起義最高領導機關，下設特別軍委和特別宣委，高語罕參加了特別宣委，旋即赴漢口任《民國日報》總主筆。在蔣介石發動四一二政變之前，即發表《“反對”與“打倒”》、《這叫做“親善”》等社論，抨擊蔣介石，被譽為武漢反蔣的三尊大炮之一。
5月20日，國民黨中央黨部任命高語罕為二十軍黨代表，接替剛離去的朱德。6月中旬，國民革命軍討伐段祺瑞奉軍凱旋武漢後，高語罕被聘為第二方麵軍總指揮部秘書長，同時兼任第二方麵軍共產黨黨團書記、中央軍事政治學校武漢分校政治教官、國民黨安徽省黨部負責人、安徽省黨務幹部學校校長、四川特別委員會委員。
7月下旬，在張國燾阻撓南昌起義時，高語罕堅決反對推遲起義時間。為此，高語罕和葉劍英、葉挺、賀龍、廖乾吾在甘棠湖一條小船上進行了密謀，史稱“小劃子”會議。南昌起義後高語罕任革命委員會秘書，起草了八一南昌起義《中央委員宣言》。後來他奉周恩來之命赴香港，爭取第二方麵軍軍長張發奎。起義失敗後，他在澳門向中共中央寫了《給中共中央的報告——個人對於八一事件之經曆及意見，對中央最近策略的意見》。
1929年，高語罕同陳獨秀聯合發表《我們的政治意見書》，由他介紹入黨的學生蔣光慈、阿英、李克農等所在的中共春野支部將他開除出黨。
離開政治舞台退往書齋後，高語罕二十年如一日，始終堅持政治信念，抱定為真理而犧牲的堅定意誌和勇敢精神。他編譯了宣傳馬克思、恩格斯、列寧思想的《辯證法經典》、《理論與實踐——從辯證唯物主義出發》以及作為馬克思主義來源的《康德的辯證法》、黑格爾《曆史哲學綱要》和費希特《知識論》、《費希特的辯證法》等著作。抗戰前，他參與編寫中國內亂外禍曆史叢書中的《三朝野記》和《崇禎長編》，輯錄各種史料16種。他批判胡適的改良主義，宣傳唯物史觀，著有《中國思想界的奧伏赫變》。他始終關心青年，著有《犧牲者》、《死後》、《語體文作法》、《國文作法》、《中學作文法》、《文章評選》、《作文與人生》、《青年書信》、《青年女子書信》、《現代情書》、《讀者顧問集》、《紅樓夢寶藏六講》等。他懷念為革命犧牲的戰友，撰寫《百花亭畔》、《廣州紀遊》、《烽火歸來》、《人蜀前後》、《九死一生記》等著作，留下了大量珍貴的史料。