1928年初，語罕同楊匏安、羅綺園及他們的家人先到香港，然後轉海輪到上海，在楊匏安一個親戚家裏暫住。
語罕穿著廣東裝上了電車，到亞東圖書館去。到了山東路，他便跳下車，慢慢走到亞東圖書館，一進門，也不打招呼，便往樓上跑。
汪孟鄒看見語罕，又驚又喜，看他穿革命的廣東服裝太顯眼，馬上請人到衣店買了一件深灰色嗶嘰長衫給他穿上。語罕也不敢久坐，拿了幾個錢，又回到楊匏安親戚家裏。
上海灘租界上普通的弄堂房子，大都是一樓一底，樓上分前後兩部分：前者曰前樓，後者曰後樓，統稱統樓麵。統樓後身是樓梯，樓梯之後，一個較小房間叫“亭子間”，語罕就住在匏安親戚家的亭子間裏。
語罕初回上海，差不多有三個月沒有下樓，極少出門，也沒有去找麗立。直到陰曆年底，語罕才寫了一封信給她，麗立接到信，即跑來找他。見麵簡直認不得了，麗立瘦得可憐！語罕生活上既靠著亞東圖書館接濟，自然不得不寫文章作為代價。天天要用腦筋，卻又絲毫不能運動，差不多等於坐牢。麗立每天從醫院下班就跑來看語罕，語罕需要什麽東西，她就買了來。
楊匏安留在中共中央機關，參與機關報刊的編輯出版工作。羅綺園主編機關刊物《布爾塞維克》，後任中共中央宣傳部副部長。楊匏安患有肺病，夫人的身體也很不好，生活異常艱苦。為了彌補家用，楊匏安在夜裏加緊寫作，還幫助家人推磨做米糍，讓母親和孩子在第二天早晨上街叫賣。
語罕被編入由蔣光慈任組長，阿英、李克農、嚴啟文、李澤純、宋季仁為成員的春野支部，間或指導太陽社的文藝工作。太陽社是中共中央領導下的第一個革命文學團體，由蔣光慈等人創辦，語罕參加了成立大會。