王維從濟州出來，又去了一個他稱為“淇上”的地方。此後，又到吳越、巴蜀遊玩了一番，恰好符合古人三十歲“壯遊”的要求。這是生長於北方的王維一次實地接觸南方文化的機會。王維對禪宗的南宗頗有研究，這次南方遊曆，或許就是他了解南宗的一個契機。
在這段時間裏，王維的妻子也去世了。這難免讓王維更加心灰意冷。王維在妻子去世後的三十多年裏，一直沒有再娶，由此可見他對妻子感情的真摯，也可以看出他一生心思的散淡。
壯遊期間，他還結識了後來與他齊名的孟浩然。不過，在王維心目中，孟浩然可能並不是他最好的朋友。他最好的朋友，是同屬“山東五姓”的崔興宗、盧象，是北齊高門的後代祖詠。像孟浩然這樣一個郡望不詳、屢試不第、寄居襄陽的山野村夫，似乎還是跟李白玩得更好一些。後來的人把王孟放在一起，就是因為他們都寫山水田園詩。其實，王維和孟浩然寫山水田園詩，是他們各自從《文選》裏學來的，不是他們倆商量出來的。王維是上層文士，更溫潤一點；孟浩然是下層文士，更瘦硬一點。後來的人覺得，這些都不重要了，隻有“寫什麽”是重要的，才會把他倆拉到一起。
王維寄情山水四處遊曆，其實也是對唐王朝失望，不願再為唐王朝做事的表現。但是，到了三十四歲的時候，王維悄悄地來到了洛陽，向實際的宰相張九齡獻上了詩篇。
張九齡雖然是生長於嶺南的寒素，但他在思想意識上認為自己屬於山東士族。他在用人上傾向於進士出身的山東士族，也就是像王維這樣的人，特別反對關隴貴族的後代憑著軍功或一般的基層業績獲取清流高位。張九齡獎掖了一批年輕的進士，在朝廷中形成了一股清流勢力。
在張九齡的幫助下，王維回到了朝廷中，出任了他這個級別的第一美差——右拾遺，有機會直接在皇帝麵前發表意見了。想當初，王維認識那麽多關隴權貴，但這些人在他貶出京城的十四年裏，沒有一個拉他一把，最後還要等張九齡把他弄回來。相比之下，還是山東士族這邊的人靠譜啊。
但是，這時候，王維已經從一個二十一歲的年輕八品官，變成了一個三十五歲的老八品官，早就沒有一個拾遺應有的銳氣了。他沒有什麽心思為朝廷效忠，隻是對張九齡的知遇之恩感激涕零，把他當作知己，寫詩向他傾訴衷腸。一方麵對朝廷已經有了心理陰影，一方麵又覺得不能不報答張九齡，這時候的王維，心裏應該也是有小小的糾結的。
這種糾結沒有持續多久，因為接下來的一年，張九齡就罷相了，隨即被貶到荊州。接替他的，是臭名昭著的李林甫。這一回，唐玄宗掉的粉絲就不是一個，而是一片了。
王維沒有受到此事的牽連，仍然留在朝中，但他對張九齡的離去，感到無比不安和不舍。在他心目中，丞相永遠是張丞相。他繼續給遠在荊州的張九齡寫詩，訴說自己的感激與思念。
朝廷還是知道王維的可貴的，還是繼續重用他，給他升官。
王維從右拾遺升到了監察禦史。按照唐朝的慣例，新升上來的官，都得先做點辛苦的事。於是，王維到河西去慰勞軍隊了。在那裏，他寫了幾首很好的邊塞詩，包括著名的“大漠孤煙直，長河落日圓”。
齊梁以來，邊塞詩一直是一種浪漫主義的創作，寫邊塞詩的人大多沒有親自到過邊塞，隻是憑著想象寫詩。但這樣的詩有市場，因為樂府娛樂需要。到了王維這個時候，越來越多的詩人有機會在履行職務的時候到達邊塞了。邊塞從停留在歌曲中的浪漫想象，變成了眼前的現實。邊塞詩也從浪漫主義走向了現實主義。盛唐詩有山水田園詩，也有邊塞詩，詩是兩種詩，寫詩的卻未必是兩種人。盛唐的詩人，一般都能身兼二職，很少有一輩子隻寫一樣的。其實，這兩種詩是兩個傳統。山水田園詩是《文選》的傳統，是士族詩人在皇帝的盛宴上走神。邊塞詩是樂府詩的傳統，也是宮體詩的傳統，跟王維早年寫的那些脂濃粉豔的詩，本質上是一樣的。
從河西回來不久，王維又被派到嶺南去選拔官員了。這同樣是一件辛苦而光榮的工作，說明了朝廷對王維的信任。
知南選，是王維人生中第二次見識南方山水的機會，這一路上，自然又產生了好詩。王維還去了孟浩然的老家襄陽，隻可惜，這時候孟浩然已經不在人世了。