隋朝的國號來自楊堅最初的封號——隨國公。“隨”的繁體寫作“隨”，楊堅覺得走之旁不吉利，於是把走之旁去掉，這便成了“隋”。
楊堅建立隋朝後銳意改革，他“每旦聽朝，日昃忘倦，居處服玩，務存節儉，令行禁止，上下化之”，可以算得上是曆史上最勤政的皇帝之一。正是因為這樣勵精圖治，楊堅開創了輝煌的“開皇之治”，也創造出中國曆史上的很多個第一次。
開皇二年，隋文帝楊堅認為舊長安城屢經戰亂，已經破敗不堪，於是在城東南龍首山建設了一座大興城。新的都城東西對稱，雄偉壯觀，成為當時世界上最大最繁華的都市。
鑒於之前幣製混亂，楊堅推行幣製改革，鑄造標準的五銖錢，禁用古錢和雜錢，使貨幣得到統一。他還規定以古尺一尺二寸為新的一尺，以古鬥三升為新的一升，以古秤三斤為新的一斤，在全國執行起統一的度量衡製度，方便了商業的發展。
在政治方麵，他恢複了漢魏時期的體製，確立了三省六部製，即中央政府設中書省、門下省、尚書省，尚書省下再設吏部、戶部、禮部、兵部、刑部、工部。這種組織嚴密、分工明確的體製，有效地加強了中央集權，被一直沿襲使用到清代。
除了中央，他對地方行政機構也進行了簡化，通過廢郡，實行州縣兩級製。此舉不僅加強了中央對地方的控製，也節省了開支，減輕了百姓負擔。
楊堅還下令製訂了《開皇律》，廢除車裂、梟首等殘酷刑罰，建立死刑複奏製度，規定凡判處死刑，需經“三奏”才能處決。同時，他還整肅吏治，懲治貪腐，一時之間，朝堂之上風氣煥然一新。
楊堅還實施了一項偉大的改革，他廢除了始於春秋時期、在東晉尤為盛行的門閥士族製度，開創了以考試選拔人才的科舉製，使得廣大庶民百姓得以參與政治，並由此影響了中國後世上千年。