海頓沒有在法蘭克福逗留太久，之後，他應克隆的選帝侯（選帝侯是指那些擁有權利選舉羅馬國王和神聖羅馬帝國皇帝的諸侯）弗蘭茲的邀請去了波恩。弗蘭茲是剛剛去世的奧地利國王約瑟夫二世的弟弟，非常熱愛音樂。為了歡迎海頓，波恩宮廷的樂師為海頓舉行了一次演奏會。在這裏，一位22歲的年輕音樂家拿了一部清唱劇給海頓看，海頓大為讚賞，並表示願意在作曲上給他一些幫助。這個年輕的音樂家就是貝多芬。
貝多芬計劃到維也納向海頓學習，他們商量好，隻要貝多芬能離開波恩，他就馬上去維也納。
海頓坐著艾斯特哈齊的一輛馬車，於1792年7月29日抵達維也納。現在，他已經和剛離開維也納的時候不同了。他嚐到了令人興奮的成功和自由，得到了一所著名的大學頒授的音樂博士學位，威爾士親王和其他英國顯貴也對他非常尊敬。現在他再看看維也納，這個看著他慢慢崛起的城市是一個暮氣沉沉、一潭死水的城市，這讓海頓倍感寂寞。
維也納的表現確實令人失望，沒有一家報紙提到海頓的歸來，沒有人為歡迎他舉行音樂會。奧地利宮廷對於這位揚名歐洲的作曲家沒有表示認可，和倫敦聽眾瘋狂歡迎的盛況相比，這是個多麽大的諷刺！
在私人領域裏，情形自然不同，海頓的老朋友們很高興歡迎他回來，但在他們與他中間卻出現了一個永不會填滿的鴻溝，使海頓再也不能盡情享受維也納朋友圈帶給他的快樂，因為莫紮特死了。在倫敦就聽到了這個消息，海頓不肯相信，因為還有人曾在1778年就宣布海頓已經死了。當他知道這是事實時，他甚至開始懷疑自己的信仰。1792年元月，海頓寫信給他的朋友普克伯說：
我覺得我要瘋了，一想到莫紮特的死，我就禁不住懷疑，為何上帝要把這個舉世無雙的天才早早帶走。如果可以，請你盡量寄來一些莫紮特未發表的曲子。我要盡我最大的能力，為他尚在世的妻子和兒子爭取一些福利。上個星期，我寫信給他的妻子，告訴她等她的兒子稍大一些，我就義務教他作曲，好讓他繼承他那偉大父親的衣缽。