上海是1949年5月解放的，我軍3野部隊遵照司令員陳毅的指示，入城後將「秋毫無犯」做到了極致，全體官兵睡在大街上，讓上海市民驚奇又感動。臨時成立的軍管會接管了上海，與市政府合署辦公，陳毅擔任市長。
1949年7月6日，為紀念「七·七」抗戰十二周年並慶祝解放，上海舉行了隆重的閱兵式，解放軍和群眾們聯合大遊行，萬人空巷，歡聲雷動，盛大的場面難得一見。在這樣的重要時刻，遊行隊伍突然被一輛外國人駕駛的小車擋住了。
維持秩序的民警上前處理，駕車的外國人卻拒絕讓道。民警將他帶走訊問，對方是美國外交官，警局請示上級如何處理，驚動了陳毅。陳毅憤怒地下令，不管他哪國人，先拘留起來再說！消息傳出，引起了轟動，國內外都在關注這件事如何收場。
從晚清到民國，舊上海的外國人為所欲為，逍遙法外，如今不一樣了，新上海代表的是新中國。解放軍用鮮血和生命換來了新上海，目的之一就是讓中國人不再被外國人欺侮。
作為中國最大的城市，上海解放是非常不容易的。陳毅說過，上海戰役是自己平生所遇的最特殊的一次戰役。
戰前，上海有20多萬國民黨部隊，蔣介石曾親臨訓話，要他們拼死固守6個月，以待美軍援助。上海的防禦很完備，市區內外修建了3000多個美式碉堡，4000多個鋼筋混凝土防禦工事，及上萬個野戰工事，正如湯恩伯所說，上海的防禦固若金湯。
而我軍的目標是，既要拿下上海，還要竭力保存好市區的建築、工廠、電力等設施，是個大難題。所以陳毅把上海戰役比喻為「瓷器店裡打老鼠」，十分貼切。各參戰部隊接到命令，打到市區的時候，只能使用輕武器，不准用火炮和炸藥。
5月12日，3野下轄的第9、第10兵團向上海外圍之敵發起進攻。總前委的意圖是設法將守敵引到外圍殲滅，避免在市區大戰。隨著我軍在月浦等地區步步推進，逼近浦東高橋，敵軍果然被調動了，湯恩伯下令防守市區的75軍增援浦東，結果被包了餃子。
向市區發起總攻時，陳毅給各軍挨個打電話，要他們一定要「軍政全勝」，一定要把市區和群眾的損失減少到最低程度。
戰至24日，蘇州河以南市區的戰鬥已全部勝利結束，但北岸的守敵利用橋頭掩體和高樓大廈為據點部署火力，我27軍不少戰士犧牲。大家紛紛要求開炮，軍長聶鳳智堅決不同意，準備改變戰術，等到夜間迂迴偷渡。
最後是我軍派人與北岸守敵淞滬警備副司令接觸，對方同意投誠，於是蘇州以北的市區也拿下了。不過戰鬥並未結束，盤踞在閘北電廠的國民黨230師還在負隅頑抗，強攻的話會導致電廠受損，幸好陳毅找到一個人，和230師指揮戰鬥的副師長是老相識，將其勸降。5月27日，全上海解放，城市完好無損。
戰役打響前，陳毅就在丹陽召開會議，一再強調接收上海的注意事項，其中一個重點是「不入民宅」， 入城後，任何人不得以任何藉口進民宅或路邊的房子裡休息，一律睡馬路，下雨也得睡外面。
於是，上海解放的次日清早，群眾們一開門，發現馬路兩邊濕漉漉的地上睡滿了身穿黃布軍裝的解放軍戰士。勝利之師露宿街頭，這亘古未有的一幕感動了上海的群眾。當天，上海軍管會成立，開始接管大上海方方面面的工作。陳毅成為新中國第一任上海市長。
英美軍隊不敢干涉我軍解放上海，但他們並沒有走遠，6月下旬，英美艦隊封鎖了海上航道，所有的工業原料都進不來了。陳毅和華東局其他首長緊急制定了恢復生產、厲行節約的反封鎖措施，很快就有了成效。
1949年7月6日，上海舉行了閱兵式和盛大的軍民遊行活動，慶祝上海解放並紀念「七·七」事變十二周年，熱鬧非凡。作為3野和華東局首長的陳毅、粟裕等人乘車檢閱了部隊。當天下午，遊行集會正在進行時，出現了意外情況。
美國駐上海副領事威廉姆·歐立夫開著一輛小轎車，在溧陽路和東長治路口故意違反交通規則，沖入遊行隊伍，擋住了路。維持秩序的民警立即上前，讓歐立夫倒車離開，但他充耳不聞，還罵罵咧咧的，踩著油門企圖強行穿過人群。
歐立夫的行為引起了群眾的憤慨。民警只好採取強制措施，將他帶到分局訊問。但歐立夫態度蠻橫，拒絕報出自己的姓名、職務和住址，在警局裡大吵大鬧，暴跳如雷，掀翻了辦公桌，砸壞辦公用具，還把一名阻止他的民警踢傷了。
由於歐立夫是外交官，警局向上級請示如何處理。時任上海軍管會委員、華東公安部部長的李士英非常重視，要求分局把歐立夫看管好，但不准打罵，然後李士英又給陳毅打電話匯報了情況。
陳毅一聽大怒，毫不猶豫地說，「先拘留起來再說！不管美國人英國人，在中國違反了中國的法令，就可以制裁他！」有了陳毅的指示，警局這邊告知歐立夫，由於他擾亂交通秩序，損壞公物，毆打民警，觸犯了中國法令，予以拘留。
不管歐立夫如何吵鬧，他還是被關進了拘留所，不過生活上還是得到了照顧。兩天後，陳毅專門批示，第一，責令歐立夫寫檢查，認錯道歉；第二，毀壞公共財物，打傷民警，需作出賠償；第三，以分局名義在報紙上刊登一則對歐立夫的處罰決定。待他認錯道歉後，將他的個人物品和肇事車輛返還。
歐立夫終於威風不起來了，老老實實寫了道歉書，承認自己犯下了多項罪名，願意賠償，還說，「我保證不再有同樣的事情發生……今後一定遵守中國法令……感謝上海政府對我的寬大及和善的待遇」。
歐立夫的道歉書連續兩天被刊登在《解放日報》上，報社還發表了一篇警告美方的短評。於是「歐立夫事件」轟動全國，也成了世界性新聞，美國報紙說，「中國這頭睡醒了的東方巨獅開始發出怒吼了」。
歐立夫這樣的外交官在中國犯事被拘留，在歷史上還是首次。感受最深的上海群眾拍手稱快，他們說，以前美國吉普車壓死人都沒人管，現在美國領事犯法也要懲治，新政府就是不一樣！