上海清算反革命的行動越來越高漲，“周家四虎”、“小八股黨”，南昌路、瑞金一路上的“薄刀黨”、“黃牛黨”等大批壞分子落入法網，甚至連一直陪侍在側的黃金榮的親信門生程錫文、宋才良兩人也先後被捕，這讓黃金榮感到驚恐不安，惶惶不可終日。
1951年3月，上海市公安局的偵察員在大世界遊樂場的秘密工作中，獲悉黃公館內藏有槍支，公安局為了消除隱患，決定采取行動。公安局先是找黃源濤談話，開始黃源濤堅持否認私藏槍支，後經公安人員拿出確鑿證據，隻得承認。4月13日下午，數十名警察浩浩****開到了黃公館。警察們經過仔細的搜查，在黃金榮寓所查抄出10支槍，其中轉輪手槍四支、手槍三支、火藥手槍二支和已損壞的卡賓槍一支，此外還有各種子彈300多發和軍刀等。
看到抄出了這麽多武器，黃金榮嚇壞了，哆哆嗦嗦地說：“這些軍火都是兒子黃源濤的，與自己沒有任何關係，請政府明鑒。”然而經公安部門查實，黃金榮與此事有所牽連，另外警察還在黃公館裏查處了大量窩藏的鴉片。
不少市民寫信給政府，提出“樹德務滋，去惡務盡”，要求嚴懲罪大惡極的流氓大亨黃金榮。但是人民政府考慮到黃金榮雖然罪大惡極，但還是有過立功的表現，而且解放後他也很配合政府，沒有太大的過錯，加上已經80多歲的高齡，於是人民政府決定委派盛丕華、梅達君和方行三人為代表，召見黃金榮，向他宣布既往政策不變，但希望他能寫“悔過書”公開登報，進一步向人民交代，低頭認罪。
盛丕華時任上海市人民政府副市長，梅達君為市政協副秘書長，方行擔任人民檢察署副檢察長。因為盛丕華解放前就同黃金榮熟悉，所以處理黃金榮的事情，基本上他都出麵參加，這樣也是為黃金榮考慮，以免他情緒激動，過於恐慌，甚至無法談話。