北魏自孝文帝大規模漢化之後，統治階層中不願意漢化的鮮卑軍事貴族，出現了強烈的反彈，最後北魏分裂，形成東西兩部分。西部統治者宇文氏建立北周政權，最終統一了北方。宇文氏的成功在於，既保持了鮮卑人的戰鬥力，比照鮮卑人原來兵牧合一的軍事組織，建立府兵製，同時力求保持鮮卑的簡樸作風，甚至恢複原來鮮卑人的鮮卑姓，強令進入軍隊的漢人改鮮卑姓，呈現出鮮卑化的跡象。但是，另一方麵，他又模仿西周官製進行改革，恢複六官製，力求製造直接承襲華夏正統的印象。而且，經過改造的府兵製，逐漸剝奪了各府將軍的掌兵權，將府兵直接置於皇帝控製之下。就這樣，在漢化與鮮卑化之間走鋼絲的宇文氏獲得了成功。但是，走鋼絲維持不偏不倚相當困難，周武帝以後，繼承者滑向了鮮卑化的一邊，結果激起了已經勢力很大的漢人普遍的不滿。身為外戚和勳臣的楊堅，乘機代周而立，建立了隋朝。
隋朝的開創者對於製度建設從建國伊始，就表現出空前熱情，顯示出新朝氣象。
首先，恢複並且健全了三省六部的中央機構，確立了中書省（時稱內史省）草詔、門下省審核、尚書省執行的三權分立製衡機製。尚書省各部分工也進一步明確和固定。經過一個不長時間的過渡，形成了吏部、禮部、兵部、刑部、民部和工部的六部行政部門，每部下轄四個司，六部共二十四司。各部所轄的司，均跟本部事務相關，形成一個整體。隋朝在那個時代，應該是世界上分工最明晰的政府。後來的唐朝，隻是將民部的名稱改為戶部，除此以外沒有任何變化。三省六部進一步確立之後，原屬九卿範圍的各個監寺的地位繼續下降，淪為可有可無的輔助性機關。這樣的六部與監寺格局，奠定了此後官僚製帝國的基本行政架構。這種架構一直延續到了清朝末年，才被從西方引進的新式現代政府體製所取代。