1923年春天，溥儀要選海內碩學之士，王國維經升允推薦，成為溥儀的南書房行走。南書房是皇帝讀書的地方又稱南齋，位於故宮乾清門西南，此處同時又兼皇帝私人秘書處性質，凡是在南書房供職的，都是進士、翰林出身，以學問淹博著名的任務，人數向來沒有固定數目。他們平時都做些講學、查書、吟詩、作畫、鑒賞古物等等的工作，屬於“清班”，即所謂文學侍從之臣。有些取得皇帝信任的也幫助擬旨，或處理一些無關緊要的政務。溥儀的小朝廷，招攬一批文人學士充當南書房行走，一方麵可以裝點門麵，一方麵又可以跟溥儀進行學問交流。
1922年，年滿十六歲的清朝末代皇帝愛新覺羅·溥儀，舉行了婚禮，從此步入成人行列。雖處於風雲變幻的特殊時期，年輕的皇帝依舊躊躇滿誌地認為應當多和有學問的人接近，才顯得皇帝年少有為。因此，第二年舊曆三月一日，降旨意：“王國維到南書房行走”。行走，就是入值辦事的意思。“南書房行走”也算一個官名。王國維一介布衣做了皇帝身邊的“近臣”，這真是十分難得的殊榮。王國維固然是受寵若驚，與他往來的一群在上海作寓公的遺老，也無不為他高興，遺老之中有熟悉“本朝”掌故的，於是就說這是從康熙年會朱彝尊之後從所未有的盛事，紛紛作詩道賀。
關於此職位，不少人說是出自羅振玉的推薦，實則不然，羅振玉是在相隔一年多之後，才入宮充當南書房行走的。推薦王國維的是蒙古人，原陝西巡撫、督辦陝甘軍務的升允，升允為皇室死黨，清亡國後到日本進行複辟活動甚力。後來居住在天津與羅振玉走得較近，溥儀和他周圍的人比較認同升允的言論，因此在他上奏不久，王國維就進宮任職，不久又“加恩賞給五品銜”。