李世民除了重用魏征之外，還有其他二十三名，他把這二十四名大臣的畫像掛在淩煙閣上，讓世代供奉。
淩煙閣，也成了唐朝大臣渴望掛上畫像的地方。
高士廉就是淩煙閣上的一名大臣。
他的出身很好，曾祖父高飛雀，在北魏時就是太尉。而他祖父高嶽，在北齊官至侍中、左仆射、太尉、清河王。他的父親高勵，在北齊官至樂安王、尚書左仆射，在隋朝官至洮州刺史。
高士廉有這樣的出身，再加上他年輕時，廣泛涉獵文藝、史學，成為一個有學問的人。
一個人，有出身，再加上有學問，白癡都知道他騰飛起來，易如鳥飛，所以，隋朝的司隸大夫薛道衡、起居舍人崔祖浚都與高士廉結為忘年之交，其他公卿也跟他交往。
隋煬帝大業年間，高士廉被任命為治禮郎。
高士廉的妹妹嫁給了隋朝的右驍衛將軍長孫晟，生了個兒子和女兒，兒子就是長孫無忌，至於女兒，就是後來的長孫皇後。
長孫晟去世後，高士廉把妹妹和外甥們接回家來，跟他們的情誼深摯。
高士廉是個非常有眼光的人，所以，他在李世民尚未顯貴的時候，就把外甥女嫁給李世民為妻。
高士廉和長孫無忌後來的飛黃騰達，就是因為這個長孫皇後。
高士廉在隋朝，得不到重用，被貶謫為朱鳶主簿。
他是有名的孝子，由於嶺南常有惡性傳染病，母親不能一起到朱鳶去，就留下妻子鮮於氏伺候奉養，補貼經費的不足。他又想到妹妹沒有著落，就賣掉大住宅，買了小住宅安頓妹妹住下，把剩下的錢分給母親和妹妹，自己帶上簡單的行李走了。
高士廉的這些做法，充分顯示了他是個品德很高尚的人。
要是李淵沒有奪取了天下，高士廉可能一直都在嶺南吃荔枝。
武德五年，公元622年，高士廉呈遞奏表，要求回到唐朝。