1750年的春天，為了擺脫生活的困擾，海頓和一群朝聖者一起前往在瑪麗亞采爾的聖母教堂。這個時候，海頓的聲音已經穩定下來，能夠運用自如了。他向教堂唱詩班的樂長推薦自己，說自己曾是聖史蒂芬教堂的唱詩班成員，接受過八年訓練，希望準許他加入唱詩班。
海頓寒磣的外表使人無法相信他，那位樂長顯然是把他當成了遊手好閑的小混混，他粗魯地把海頓趕走了。海頓不肯死心，偷偷跑進教堂的合唱團，從領唱的手中搶來樂譜，字正腔圓地唱起獨唱的部分。這是個相當有難度的唱段，但是海頓唱得非常專業，而且歌聲完美得使“全體團員都屏息靜聽”。
樂長為自己不能慧眼識人而感到慚愧，於是邀請海頓和他住一個晚上。這天晚上，他們聊得非常投機，海頓又在那兒住了一個星期。這段時間裏，海頓總算能大快朵頤，美美地吃飯了。
回到維也納時，海頓精神飽滿、充滿信心，身上還有一些瑪麗亞采爾的音樂家給他湊的錢。這次，他的運氣不錯。一位名叫安東·布赫爾茨的維也納商人決定幫助這位年輕人深造，無條件地借給他150個金幣。
靠著這筆錢，海頓可以安然地離開斯班格勒夫婦，自己搬出去住了。當然，他選擇了最便宜的地方，地點在維也納古老的聖米迦勒教堂附近。那是一幢老房子的一個閣樓，房間很小，在裏麵轉個身都不容易，而且屋子裏光線昏暗，漏雨又漏風。和海頓一同住在閣樓那一層的，還有一個廚師、一個印刷學徒和一個侍者。
在這個地方，海頓終於有了他渴望已久的安靜的學習環境，他還擁有一架被蟲蛀了的舊鋼琴。他晚年回憶起這段生活時曾說：“每當我坐在那架舊鋼琴旁邊彈奏時，我快樂極了，連最幸福的國王我也不羨慕。”