時人皆知，陳毅是“兼資文武此全才”的儒將。因此，早在七屆二中全會期間，毛澤東就親自點將陳毅出任未來的上海市長。也就是從這時開始，陳毅就把接管上海的大事放在了心上。
陳毅隨總前委移師南京不久，就遵照毛澤東的指示抽調了約五千名幹部，趕到江蘇省剛剛解放的丹陽，迅速組成接管上海各係統的機構，擬製了具體的接管計劃和警備措施，組織接管人員學習中共中央以及毛澤東關於接管上海的方針政策。在這期間，他指示有關部門把“有關上海的年鑒、經濟、政治、文化、社會概況，包括繳獲的、地下黨調查的、上海來人報告的，匯成關於上海的二百多種小冊子，陳毅自己看，也交給幹部戰士們讀，再依據中共中央的方針政策，確定接管的具體方針步驟。比如，上海的官僚資產如何接管？外商企業如何對待？民族資本家的廠子如何使其開工？國民黨政府機構如何處理？等等，他都要事無巨細地親自過問。
自古以來，勝者之師攻入敵城都要“放假三天”——默許軍隊“搶掠三天”。但是，解放軍是人民的軍隊，被解放的城市，包括南京、上海等大城市也是人民的城市，因而人民解放軍必須以主人翁的姿態進入上海。為此，陳毅從入城紀律教育著手，他嚴格地強調：一是市區作戰不許用重武器，二是部隊入城後一律不得進入民宅。對於第二條，有些幹部想不通，說遇到下雨、有病號怎麽辦？陳毅聽後作了答複，“這一條一定要無條件執行，說不入民宅，就是不準入，天王老子也不行！這是我們人民解放軍送給上海人民的‘見麵禮’！”
為了能在較短的時間裏完成黨中央、毛澤東交給的接管上海的任務，身著戎裝的陳毅親自在丹陽的一座大廟裏作入城紀律報告。首先，他抓住兩件在丹陽發生的“小事”進行批評：一是有軍人沒票硬要進戲院看戲，二是有人擅自拿師範學院一個燈泡。他極其嚴肅地講：“這兩件小事不小，為什麽無票非要進去看戲？是不是老子革命幾十年，進戲院還沒有資格？（笑聲）這個思想作怪，進上海非吃敗仗不可！”