隋朝本身延續的時間就不長，滿打滿算也隻有四代，共三十八年，而提起隋朝，人們又大多隻記得開鑿大運河、三次下揚州的隋煬帝楊廣，對於在位二十四年的開國之君，那位才能出眾、政績卓著的隋文帝，反而知之甚少。
隋文帝楊堅出身關中豪門世族弘農楊氏，他的祖上曾經出過西漢的丞相、東漢的太尉和北魏的司馬。到了楊堅的父親楊忠這一輩，正值南北朝時期，中國南方經曆了宋、齊、梁、陳四個朝代，而北方則從北魏到東魏、西魏，再到北齊、北周。
楊忠在北周文帝宇文泰還是西魏權臣時，就是其手下的得力幹將。公元557年，宇文泰的兒子宇文覺廢掉西魏恭帝自立，建立了北周。作為北周的開國重臣，楊忠多次率軍打敗老對手北齊的軍隊，攻取二十多座城池。這樣的大將自然會受到重用，他出任柱國大將軍等要職，還被封為隨國公。
楊堅是楊忠的長子，傳說他出生的時候“紫氣充庭”，其母呂氏還夢到有青龍在腹中盤踞。楊堅生下後，目光明亮，手中還有一個奇詭的“王”字。
這些當然都是後來的迷信附會之說，不過楊堅長相奇特，這大概是真的。據說南朝陳後主見到他的畫像後非常害怕，連說不想當麵見到此人。
楊堅小時候就顯示出與眾不同的氣質。他性格深沉，少言寡語，特立獨行，以至於後來進入太學讀書的時候，即使是跟他十分親密的人也不敢隨便戲弄他。不過，當時手握西魏朝政大權的宇文泰看見少年楊堅，倒是因此對他讚不絕口。
因為父親功勞顯赫，楊堅十五歲就被授為散騎常侍、車騎大將軍，十六歲時又被西魏恭帝拓跋廓封為驃騎大將軍。同時，楊堅娶了北周重臣、在西魏時期就是軍事貴族的“八柱國”之一獨孤信的女兒為妻，身份地位愈加顯赫。