1908年，王國維的夫人病故，這件事對王國維的打擊非常大。雖然王國維與妻子是包辦婚姻，婚後沒多久，夫妻兩人就分居兩地，但他的妻子思想傳統，一心隻想著照顧家庭，讓王國維全無後顧之憂，兩人很少吵架，也算是溫馨，王國維也十分感激自己這位妻子。
妻子去世後，王國維的心情非常抑鬱，王國維的父母年事已高，看著三個年幼的孫子無人照料，就勸說王國維再婚。王國維當時還在沉浸在喪妻之痛中，根本沒有續弦的念頭，但看著自己年幼的三個兒子又不忍心他們沒有母親，思來想去，他的腦海當中跳出來一個人，那就是妻子莫氏的侄女潘氏，他在莫氏的介紹下跟她見過一麵。
王國維想娶侄女潘氏隻是害怕娶一個不相熟的人，今後會虐待自己的孩子，並沒有其它的想法。潘氏的父母起初並不答應，但潘氏在聽了王國維的理由之後，就答應了這門親事。結婚之後，這位潘氏對王國維的孩子確實很好，與王國維相處的也十分愉快，日子平淡而幸福。
他的人生大事可謂接二連三，次年王國維就開始了生命中的又一次遷徙。這次遷徙仍然與羅振玉息息相關，這個賞識他的伯樂，經由清政府推薦到北京新成立的學部做事，不久之後出任參事官，作為高山流水遇知音的“伯牙”王國維，自然又彩雲追月般地再次追隨“子期”羅振玉到了煙雨京華地，並於次年在學部總務司謀得一席之地。隨後又於學部奏設的京師圖書館中出任圖書館編譯一職。前情已成追憶，悉心憐惜眼前人的王國維雖然與夫人寓居在宣武門內新簾子胡同過起了平凡的小日子，可他在文學上的沉溺卻絲毫不減。
北京的讀書環境與南方相比更為優良，不但圖書館及私人藏書多，而且隨時可以到琉璃廠書肆瀏覽。琉璃廠是北京街市名，乾隆年間開設了書籍、古玩、字畫、碑帖、文具等店，尤以書店最為有名。漸漸地，琉璃廠書肆成了學者們的公用圖書館，三百年來國內著名學者沒到過琉璃廠的實在不多見。