1926年12月，周恩來奉命由廣州去到上海，進入中共中央工作，職務是中共中央組織部秘書兼中央軍委委員。1927年2月，他任中共上海區委軍委書記。
調周恩來到上海，是考慮到他在黃埔軍校和國民革命中突出的軍事才能，而中共中央給他的首要任務，是領導上海工人第三次武裝起義。
周恩來到上海以後，經過一番周密的準備，1927年3月21日晨，中共上海區委發出了舉行工人第三次武裝起義的命令。周恩來擔任起義總指揮、趙世炎任副總指揮。戰鬥在上海市內分七個區進行，周恩來和趙世炎親臨閘北區指揮。經過兩天一夜的激戰，到22日下午6時，攻克了敵人的最後一個據點──北火車站，武裝起義取得了勝利。這次起義，創造了世界工人武裝起義史上有數的成功戰例。
這次起義，也是中國共產黨獨立領導武裝鬥爭的一次成功的嚐試。周恩來在領導起義中表現出了高度的組織能力和指揮才能。他在這次起義中積累的經驗，為以後範圍更大的鬥爭打下了堅實的基礎。
正在這時，反革命的勢力也越來越猖獗，他們磨刀霍霍，準備屠殺革命者。4月12日，蔣介石在上海發動了反革命政變，中國共產黨的活動被迫完全轉入地下。周恩來仍留在上海處理善後事宜，在他的安排下，許多共產黨人撤離上海，或到武漢，或北去莫斯科中山大學學習。
4月27日至5月9日，中國共產黨在武漢召開第五次全國代表大會。會議根據共產國際執行委員會關於中國問題的決議案，批評了陳獨秀忽略同資產階級爭奪革命的領導權，忽視農民土地問題等錯誤。遺憾的是，會議對這些錯誤並沒有作根本的糾正，仍舊忽視掌握軍隊的領導權。
周恩來沒有出席中共五大，會上他被選為中央委員；隨後，在五屆一中全會上，被選為中央政治局委員並任中央秘書長。