1912年初，摩根家族從伊麗莎白·德雷克塞爾手中買下了華爾街23號及其地產，這塊黃金寶地每平方英尺的售價創造了有史以來房地產交易的最高記錄。皮爾龐特去世後一個月，施工隊便拆除了這座古老的灰褐色德雷克塞爾大廈，以便在原地重新建造一座宏偉的大理石大廈。為了保證得到高質量的建築材料，向來毫不吝惜的摩根合夥人把田納西州的一個大理石采石場買了下來。
皮爾龐特一直堅持，新大樓的入口處應形成一對角線，這樣公司可同時麵向百老匯街和華爾街。在最後一次去羅馬時，他曾打算把幾個凱旋門式的圓柱帶回家，作為新建築入口處的框架。盡管他生前未能親眼目睹這幢由特羅布裏奇和利文斯頓設計的意大利文藝複興風格的建築，但這幢大廈卻保留了他的精神。1913年12月30日，傑克為新大廈奠基，奠基石中裝有一個特殊的銅盒子。像聖潔的遺物一樣，銅盒子裏封存著皮爾龐特的遺囑、一份普約聽證會證詞、合夥章程，以及作為商人銀行最恰當的標誌——用於信用證的表格。這是公司在向前發展的過程中對往昔的緬懷。
說來也怪，這座1914年完工的三角形大廈比原來的建築還小。特迪·格倫費爾狡黠地對拉蒙特說：“我真不知道300年以後，或者不用那麽久，人們對摩根財團的成員們在此前35年的時間裏所取得的進展會有何感想。”大廈的建築麵積縮小以後，公司趕走了其他承租人，獨自占據了這一“街角”。這座建築處於林立的高樓之中，顯得格外矮小，這低矮的建築物大大地浪費了這塊寶地，似乎摩根銀行希望向人們炫耀，日常操心費用這種事與它毫不相幹。
這座新建築結構緊湊，房間的窗簾總是遮蓋著深深向裏伸進的窗戶，給人一種神秘感，這反映出摩根公司對隱私諱莫如深。如《泰晤士報》所說：“摩根財團的人們總是盡量遠地退居幕後，他們躲避輿論的注意就像躲避瘟疫一樣。”(1)老德雷克塞爾大廈將其公司的名字高掛在門上，而摩根銀行現在卻回歸倫敦傳統，門口沒有掛公司名牌。