黃金榮自知壞事做多終將得到報應，於是他便靠求神拜佛來安慰自己。在黃公館裏，黃金榮請來了關帝像，在黃家花園裏，建造了觀音殿，甚至在榮記大世界裏也修建濟公壇，黃金榮經常帶著隨從前來燒香拜佛，祈求保佑。而上海的城隍廟更是黃金榮經常前去的燒香磕頭的地方。
1924年陰曆七月十五這天，城隍廟舉行建醮大會，鄰近村鎮十室九空，善男信女齊來祈求城隍保佑，廟內廟外，人山人海，好不熱鬧。為了慶祝，城隍爺被抬著出巡，一幫善男信女跟隨其後，繞城巡遊。
下午4時，城隍老爺像被抬到老北門外，忽聽街上叫起來：“失火了！失火了！”人們抬頭一看，隻見城隍廟濃煙烈火直衝天空。那殿宇全是木質結構，幹柴烈火，越燒越旺。不多幾時，牆倒屋塌，所有殿堂頃時瓦解。
事後查明，原來因為城隍爺出巡，廟內的香火頭目們均跟隨城隍爺吃酒肉去了，隻留下張道士和一個幫忙的照看香火。這個張道士是個煙鬼，忙活了一上午，煙癮上來了，頓覺腰困酸軟，四肢無力，便囑咐幫忙的暫為照看，自己一溜煙跑到煙館過癮去了。幫忙的人也不上心，看燒香的人太多，他也懶得應付，將點燃的香燭以及蠟燭一股腦扔到殿旁的一隻大香爐裏，自己一個人進到屋裏休息去了。誰知天幹物燥，香燭蠟燭越聚越多，最後發生了燃燒，火焰勢大，一下躥了出來。火舌舔到屋簷，因為大殿是木製結構，一下便著了起來。城隍廟附近雖有商辦消防隊，但許多消防人員也去逛廟會了，等看到城隍廟失火一個個趕回來去救火時，城隍廟已焚去十之八九。
城隍老爺出巡一趟變成無家可歸了，這讓人們大驚失措，城隍廟的會首和董事們趕緊商議解決辦法。最後他們形成了一個意見：設立善後辦事處，募款重建城隍廟。他們覺得，隻要這些有錢的主兒出一點錢，加上城隍廟之前的廟產，重建城隍廟應該沒有問題。不料這時一個人突然站出來宣布，他願意獨自出錢重修城隍廟，這個“大慈善家”不是別人，正是黃金榮。