1947年春天，語罕患胃癌臥床不起，後來由學生王光華（即二農學生王持華，抗戰勝利後任《建國日報》主編）等送進中央醫院。【注釋1】
4月23日晨，語罕在中央醫院病逝。國民黨中央組織部長陳立夫立即趕去吊唁，隨後在南京發起組織追悼會。
語罕病逝後，家貧如洗，無以為殮。王光華等為之料理喪事，將其葬於南京南門外花神廟（舊地名花田）。語罕墓與《儒林外史》作者吳敬梓之墓相對，墓碑由王光華求上海大學老校長於右任題寫。【注釋2】
1962年7月7日，包惠僧在給上海革命曆史紀念館籌備處的信中說：
“日寇投降後，《新民報》回南京發行，高語罕也跟到南京，仍為《新民報》寫文章，後來病死在南京，葬在距雨花台不遠的中國公墓。”
李宗鄴有《悼念高語罕先生》七絕二首：
渡江長夜盼黎明，人海蒼茫霧裏行。
五四浪花高百尺，導航燈塔是先生。
博學能文又健談，江淮革命著先鞭。
畢生知己陳獨秀，身後蕭條一樣寒。
連載語罕《入蜀前後》的《民主與統一》（旬刊）在創刊號上曾介紹語罕：“本文作者，在五四洪流中，是新文化運動的健將；在北伐前夜，是革命家；到離開政治舞台退往書齋後，是二十年如一日，埋頭著譯的學者。他對大眾的關切，和貧賤不能移的人格，堪足為青年模範。”【注釋3】
1947年第33期《民主與統一》刊登了《悼語罕先生》：據二十四日南京電，語罕患胃癌不治，於二十三日晨在此間逝世，享年六十一。語罕先生是五四以來新文化運動的戰士，一直握筆在手，教育人民，為著光明的未來奮鬥。他的著作近二十種，並且十年來在滬渝蓉等地的報紙雜誌中常發表論文，表示他對時局的意見，如他在民國三十四年十月七日所說：“吾人敢正告國人曰，團結談判希望不大，內戰似難避免。即勉強妥協，其為時也亦必至暫。斯言雖苦，卻將成為曆史真理！”（見成都《新民報》）即為後來的事變完全證實。語罕先生和他的朋友陳獨秀先生一樣……過的是極困苦的生活。