孟子曰：“天下有道，以道殉身；天下無道，以身殉道；未聞以道殉乎人者也。”（《孟子·盡心上》）
譯：孟子說：“天下清明太平，便去實行所信奉的道；天下混亂黑暗，就為道而獻身；沒有聽說過犧牲道去遷就人的。”
未有以道而殉乎人者，如果把這裏的道理解成製度的話，意思即是人必須服從於製度，而不能讓製度遷就人。這是成事必不可少的原則，也是領導者必須注重的。作為領導者，應當注重製度建設。體製建好了，也才有了做事業的根本。
隋文帝楊堅在建國伊始便注重體製的建設：在中央，設置三師、三公、五省、六部、二台、九寺、十二府。太師、太傅、太保，為三師。三師官銜為正一品，在名義上是皇帝的老師，與皇帝坐而論道，但不置官署，沒有什麽實權，僅是賜予德高望重大臣的榮譽官銜。三公為太尉、司徒、司空，也是正一品，三公雖置僚屬，有參議國家大事的權力，但一般不設；即使設置，也不單設，而是給某些重臣的加官。五省，為內史省、門下省、尚書省、秘書省和內侍省。秘書省管理圖書曆法，內侍省是宦官機構，這二省在政權中不占重要地位，真正的權力中樞是內史、門下、尚書三省。內史省協助皇帝決策軍國大政，門下省負責審核大政方針，認為不妥的，可以駁回，尚書省主持日常政務，在尚書省之下，設吏、禮、兵、都官（後改刑部）、度支（後改民部）、工六部，分掌具體事務。二台為禦史台、都水台。禦史台職司監察，都水台掌管舟楫、河渠。九寺為太常寺、光祿寺、衛尉寺、宗正寺、太仆寺、大理寺、鴻臚寺、司農寺、太府寺，分司各項事務。十二府為軍事機構，各設大將軍一人，將軍二人。
完善法律，製定、頒布了《開皇律》：這部新律是蘇威、牛弘等人修訂的。蘇威是武功（今屬陝西）人，牛弘是安定（今甘肅涇川北）人。兩人都博聞強記，精通律令。開皇三年（583年），楊堅把製定新律的重任交給他們，他們廣泛、汲取了魏晉南北朝以來的立法經驗，結合當時社會的實際狀況，完成了一代法典《開皇律》。