建興四年（316）十二月，長安失守的消息傳到江東，時任丞相的琅琊王司馬睿十分悲痛，命人向各地發出討賊檄文，約定日期，準備一起出兵收複失地。
司馬睿身穿盔甲，披上戰袍，親自帶兵到城外駐紮，擺出隨時出發的陣仗。這時候，從水路運送軍糧的隊伍卻遲遲未到，司馬睿問：“是誰負責運送軍糧？”有人回答道：“是督運史淳於伯。”司馬睿大怒道：“耽誤軍務，斬首示眾！”
督運史淳於伯被押赴刑場，劊子手手起刀落，淳於伯人頭落地。劊子手在柱子上擦刀，想擦掉上麵的血跡，突然見鮮血順著柱子往上“攀爬”，一直爬到兩丈多的柱子頂端才流下來。這是反常現象，圍觀的人都覺得是因為淳於伯死得冤枉。
丞相司直劉隗（wěi）趁機向司馬睿進言道：“淳於伯雖然有罪，但罪不至死，從事中郎周莚（yán）把關不嚴，應該免他的職。”劉隗還想以此追究右將軍王導的責任，王導是個聰明人，上書自求處分，請求司馬睿把自己免職。他是司馬睿的核心幕僚，司馬睿自然不會追究他的責任，反而替他開脫道：“刑罰運用不當是我一時糊塗造成的，跟各位無關。”於是統統沒有追責。司馬睿的這場北伐表演用淳於伯的頭收了尾，之後也不再提北伐之事。
建興五年（317）正月，漢趙軍隊進攻弘農郡，時任弘農太守的平東將軍宋哲被嚇破了膽，他丟下城池，前去投靠江東司馬睿。二月二十八日，宋哲到達了建康。為了提高自己在司馬睿麵前的分量，他謊稱自己此行是奉晉湣帝司馬鄴的詔書，讓琅琊王司馬睿總領國家朝政。宋哲給出的詔書裏是這麽說的：“國家遭逢厄運，黃岡不振，朕以寡德繼承大統，不能振興國家，致使凶胡膽大包天，率領犬羊進逼京城。朕今天被困在勢單力薄的城中，憂慮萬端，唯恐國家崩潰隻在旦夕之間。卿（指宋哲）把朕的旨意傳達給丞相，讓他統領國家，擇機收複舊都，修複陵廟，報仇雪恥。”