入唐之後，已然七十多歲高齡的裴矩再次令人驚愕地實現了一次“華麗轉身”。這位給隋煬帝出盡了壞主意的裴公，竟然成了大唐初年有名的忠直幹才，在很多重要的曆史關頭都有他的身影。
武德八年（625年），備受東突厥傾軋的西突厥統葉護可汗派人入唐請求和親，唐高祖因其遠隔蒼茫猶豫難斷。對突厥形勢了如指掌的裴矩勸諫：現在突厥東強西弱，我們應遠交近攻，答應與西突厥和親，這樣就可以有力牽製東突厥的頡利可汗，然後再徐徐圖之。高祖深以為是。
武德九年（626年），禍起蕭牆，秦王李世民突然發動著名的“玄武門之變”，閃電般殺死太子李建成、齊王李元吉。作為“太子派”重要成員的裴矩值此生死關頭，再次神奇地選對了邊，迅速倒向了李世民的“秦王派”。
太子、齊王被殺後，二人的餘黨數千人退守東宮，欲做殊死一搏，裴矩受命前往勸說，竟令太子派殘黨土崩瓦解，為李世民上位立下大功。
唐太宗李世民即位後，裴矩繼續備受重用，被任命為民部尚書，此時他已經年近八十，但是依然宵衣旰食，勤政不已。
更為重要的是，裴矩察言觀色的能力一點兒沒有因為身體的衰老而衰退。他很快發現，唐太宗和隋煬帝最大的不同就是他想當明君，因此自然會喜歡諍臣（至少做出的姿態是這樣的），於是裴矩開始了他又一次的“角色反轉”。
唐初官場腐敗嚴重，令唐太宗非常頭疼，竟想出了“釣魚執法”的下策。他暗中派人以財物行賄，試探官員，結果刑部的一個官員沒禁住**收了一匹絹，唐太宗大怒，要殺這個人以儆效尤。
皇帝在氣頭上，沒人敢說話，不料裴矩站了出來，據理力爭：官員貪腐，自然該殺，可陛下以財貨誘之，令其犯錯，這不符合聖人“道之以德，齊之以禮”的訓誡。這一番話竟然說動了李世民，他還召集朝廷百官對裴矩大加褒獎：“裴矩遂能廷折，不肯麵從。每事如此，天下何憂不治！”