王維從濟州出來，又去了一個他稱為“淇上”的地方。此後，又到吳越、巴蜀遊玩了一番，恰好符合古人三十歲“壯遊”的要求。這是生長於北方的王維一次實地接觸南方文化的機會。王維對禪宗的南宗頗有研究，這次南方遊曆，或許就是他了解南宗的一個契機。
在這段時間裏，王維的妻子也去世了。這難免讓王維更加心灰意冷。王維在妻子去世後的三十多年裏，一直沒有再娶，由此可見他對妻子感情的真摯，也可以看出他一生心思的散淡。
壯遊期間，他還結識了後來與他齊名的孟浩然。不過，在王維心目中，孟浩然可能並不是他最好的朋友。他最好的朋友，是同屬“山東五姓”的崔興宗、盧象，是北齊高門的後代祖詠。像孟浩然這樣一個郡望不詳、屢試不第、寄居襄陽的山野村夫，似乎還是跟李白玩得更好一些。後來的人把王孟放在一起，就是因為他們都寫山水田園詩。其實，王維和孟浩然寫山水田園詩，是他們各自從《文選》裏學來的，不是他們倆商量出來的。王維是上層文士，更溫潤一點；孟浩然是下層文士，更瘦硬一點。後來的人覺得，這些都不重要了，隻有“寫什麽”是重要的，才會把他倆拉到一起。
王維寄情山水四處遊曆，其實也是對唐王朝失望，不願再為唐王朝做事的表現。但是，到了三十四歲的時候，王維悄悄地來到了洛陽，向實際的宰相張九齡獻上了詩篇。
張九齡雖然是生長於嶺南的寒素，但他在思想意識上認為自己屬於山東士族。他在用人上傾向於進士出身的山東士族，也就是像王維這樣的人，特別反對關隴貴族的後代憑著軍功或一般的基層業績獲取清流高位。張九齡獎掖了一批年輕的進士，在朝廷中形成了一股清流勢力。
在張九齡的幫助下，王維回到了朝廷中，出任了他這個級別的第一美差——右拾遺，有機會直接在皇帝麵前發表意見了。想當初，王維認識那麽多關隴權貴，但這些人在他貶出京城的十四年裏，沒有一個拉他一把，最後還要等張九齡把他弄回來。相比之下，還是山東士族這邊的人靠譜啊。