唐承隋亂而起，亡隋之轍，殷鑒不遠。楊隋二世而亡帶來的曆史教訓是貞觀君臣最直接的經驗來源，尤其是隋煬帝的暴政虐民，讓貞觀君臣更直觀地感受到曆史教訓的殘酷，也讓他們從一開始就意識到曆史經驗的可貴，從而做到以史為鑒、居安思危。
遍觀貞觀史事，君臣間討論曆代帝王最多者就是隋煬帝。君主以隋煬帝為鑒，群臣因隋煬帝進諫。唐太宗當年剛剛攻下隋都長安之時，親眼看見隋煬帝宮中充滿美女珍玩，他深以為戒，即位之後馬上下詔出放宮女，讓她們“各歸親戚，任其適人”。貞觀二年（628），他再次下令釋放宮女，讓她們“任求伉儷”，前後共釋放3000多人，即唐朝詩人白居易詩中所講的“怨女三千出後宮”一事。除去驕奢縱欲以外，在唐太宗眼中，隋煬帝的偏信拒諫、好大喜功、大興土木、猜忌臣下等人君所不宜為者，均為他當政期間應當避免之弊政。貞觀眾臣也多以隋煬帝為負麵暴君代表，進諫唐太宗。比如貞觀四年（630），魏徵向唐太宗進言：
陛下本憐百姓，每節己以順人。臣聞：“以欲從人者昌，以人樂己者亡。”隋煬帝誌在無厭，惟好奢侈，所司每有供奉營造，小不稱意，則有峻罰嚴刑。上之所好，下必有甚，競為無限，遂至滅亡，此非書籍所傳，亦陛下目所親見。為其無道，故天命陛下代之。[27]
隋煬帝以外，貞觀君臣還經常論及包括堯舜禹湯、秦皇漢武等在內的曆代帝王。貞觀二年（628），王珪曾進言道，秦皇漢武，外則窮兵黷武，內則廣興宮室，“人力既竭，禍難遂興”[28]。貞觀七年（633），唐太宗欲駕幸九成宮避暑，散騎常侍姚思廉進諫，認為離宮遊幸乃“秦皇漢武之事，故非堯舜禹湯之所為”。致君堯舜可謂貞觀君臣的共同政治目標。為了更好地搜集整理曆代王朝興亡喪亂的經驗教訓，唐太宗君臣還注重編修曆代史書，包括《晉書》、《梁書》、《陳書》、《北齊書》、《周書》、《南史》、《北史》、《隋書》在內的8部正史，都是在貞觀時期完成的。比如對《晉書》的修撰，唐太宗便是希望總結西晉在結束分裂割據局麵之後，迅速走向覆亡的經驗教訓，以資借鑒。他專門在《晉書》中評價晉武帝司馬炎，認為司馬炎“仁以禦物，寬而得眾，宏略大度，有帝王之量”，而且當時“民和俗靜，家給人足”，一派盛世景象，但司馬炎卻“驕泰之心，因斯以起”，不知“處廣以思狹”、“居治而忘危”，最終導致“綱紀大亂，海內版**，宗廟播遷”。司馬炎比隋煬帝帶給唐太宗的感慨與教訓，更為沉重，更有教育意義。因為司馬炎初行善政，卻“乖令終於末”，這對以長治久安為治國目標的唐太宗來說，無疑更能引**感上的共鳴。編修、閱覽史冊除去可以汲取經驗之外，還會鞭策唐太宗恪守君王之道，兢兢業業，勤政為民。貞觀十六年（642），唐太宗詢問編修《起居注》的褚遂良，是否會將自己所行之善惡，悉數記錄。褚遂良對曰：“史官之設，君舉必書。善既必書，過亦無隱。”唐太宗說：“朕今勤行三事……一則鑒前代敗事，以為元龜；二則進用善人，共成政道；三則斥群小，不聽讒言。”[29]並坦言這樣做的目的，就是希望史官能夠不要記錄他的惡行。注重身後之名的唐太宗希望後人讀貞觀之史時，唯見“鴻勳茂業粲然可觀”，而不希望自己像曆史上的昏君一樣，留下為人恥笑的把柄。