李世民再次啟用房玄齡後，對他仍然極為信任。
貞觀二十一年，李世民在終南山翠微宮休養，任命司農卿李緯為民部尚書。
房玄齡這時留守長安，有個官員從長安來到翠微宮，李世民便問他：“房玄齡知道李緯擔任民部尚書後有何看法？”
那官員回答：“房玄齡隻是說李緯的胡須漂亮，再沒說別的。”
李世民聽了，沉吟了一下，很快調任李緯為洛州刺史。
李世民的這個做法，簡直是把房玄齡的話當成了行為準則。
貞觀二十二年，李世民在玉華宮休養，當時房玄齡老病發作，李世民下詔讓他帶病統管留守長安的事。
房玄齡這一病，逐漸沉重。
他自知這一病，有可能再也見不到李世民了，當下坐著擔輿，讓人抬進玉華宮，一直快到李世民座位跟前，才停了下來。
李世民一見他病成這個樣子，就對著他流淚。
房玄齡也感動得聲音哽咽，無法說話。
李世民趕緊下令名醫搶救，同時讓負責李世民夥食的官員，每天送禦膳給他。
房玄齡的病情略有好轉，李世民就喜形於色；如果聽說房玄齡的病情加重，就麵帶傷感。
房玄齡自知不久於人世，於是，對兒子們說：“我想我是病得快要死了，皇上對我的恩惠卻越來越重，如果虧負了皇上，那麽死了也還有責任。如今天下清靜安寧，各方麵的事都處理得妥妥當當，惟獨不停地東征高麗，才是國家的憂患。皇上心懷憤怒，態度堅決，朝臣們沒有誰敢冒犯威嚴進行勸諫；我明白這種情況而不說，就會帶著遺憾死去。”於是，呈表直言勸諫說：
“我聽說用兵打仗忌諱的是沒有止息，崇尚的是爭取和平。如今大唐的教化，沒有哪個邊遠地區沒有達到，自古以來不願臣服的，陛下都能使他們臣服，不願接受控製的，都能使他們接受控製。仔細觀察曆史和現狀，給國家造成禍患災難的，沒有比突厥等西北民族更厲害的。