晉武帝司馬炎建立西晉之後，深刻反思了曹魏政權覆滅的原因，他認為根本的原因在於皇族子弟沒有獲得充足的權力。因此，司馬炎吸取教訓，登基之後就立刻分封了27個同族子弟做王，以鞏固統治。其中司馬懿的庶子，也就是武帝的叔叔司馬伷被封為琅琊王。
司馬伷的兒子司馬覲繼承了父親的封號，他在永熙元年（290）因病去世之後，長子司馬睿便繼任琅琊王，而當時他年僅15歲。出身琅琊望族王氏家族的王導和王敦與司馬睿之間有深厚的友情，他們陪伴司馬睿同住洛陽。
當年四月，晉武帝司馬炎駕崩，愚鈍的晉惠帝成為繼任者。這個無能的皇帝讓朝野之中有野心的大臣開始蠢蠢欲動，一場史稱“八王之亂”的皇室大暴動爆發了。在這次動亂之中，王導敏銳地觀察到動亂的局勢下已經不宜久居洛陽，便勸司馬睿回到自己的封地琅琊去。而經曆“八王之亂”後遺存的東海工司馬越此時也看中了司馬睿，任命他做了平東將軍，外出鎮守下邳（今江蘇邳縣南）。對於早就想逃離這個是非之地的司馬睿來說，這無疑是一個好消息，他迅速領命，和王導離開了洛陽。
永嘉元年（307），司馬睿又接到了司馬越的任命，成為安東將軍，都督揚州江南諸軍事。於是他又帶王導南渡長江，來到了建業（今江蘇南京）。
當時的江南地區有很多權勢極強的世家大族，他們對於北方人都非常鄙夷，呼其為“傖父”。雖然司馬睿是以地方軍政長官的身份來到這裏，但因為並沒有太高的名望，也沒有建立什麽功勳，導致江南世家對他都沒有什麽了解，因此對他的到來非常排斥。眼看到建業都已經一個月了，還沒有一個人來拜訪司馬睿，這讓他感到臉上無光，而且非常憂慮。此時恰逢王導的堂兄、揚州刺史王敦率兵來到建業，於是王導便向他求助：“琅琊王仁德深厚，但是因為名望還不夠大，所以在這裏不為人知。兄長你身居要職，而且手握重兵，如果可以幫他一把，一定可以讓他渡過這個難關。”王敦聽了他的建議，點頭答應。