楊堅開始邁出他擅權的腳步，首先把矛頭對準了那些手握重兵的宇文諸王。
公元580年，楊堅找了一個借口，將宇文泰的五個兒子趙王宇文招、越王宇文盛、陳王宇文純、代王宇文達、滕王宇文逌統統召回，將他們限製在京城，此舉其實是為了避免他們割據一方，構成威脅。
楊堅的專權攬政開始讓一些地方大員不平。
北周重臣、相州總管尉遲迥是宇文泰的外甥，戰功卓著，在朝野內外都有著很高的威望，自然也被楊堅視為障礙。楊堅以給周宣帝宇文贇會葬的名義，征調尉遲迥回京城。尉遲迥覺察到危險，於是率先舉兵討伐楊堅。接著又有鄖州總管司馬消難、益州總管王謙等人相繼起兵響應，很快便聚集起幾十萬大軍，其他地方的軍政大員也紛紛起兵。
楊堅急忙派兵征討尉遲迥，命上柱國韋孝寬為主帥。老將韋孝寬被稱為是南北朝第一名將，他先是在山西沁水打敗叛軍，最後將尉遲迥圍困在鄴城。城池攻破後，尉遲迥自殺身亡，手下部眾也都被捉拿處死。
其他方麵，在楊堅各路大軍的打擊下，司馬消難逃往南陳，王謙被部下殺死。不久，各地的反叛先後平息。
平亂成功，使得楊堅的威望大增，對宇文家的威脅益盛。被拘禁在京城中的諸王當然不願坐以待斃，他們密謀由趙王宇文招設家宴，請楊堅前來，然後在趙王府中殺掉他。
宇文招做了充分的準備，他叫兒子宇文員、宇文貫等佩刀站在他的左右，又把刀刃藏在帷席之間，還在後麵埋伏了許多甲士。可是在楊堅赴宴時，宇文招卻找不到下手的機會。
不久，楊堅就以謀反的罪名將五個藩王及他們的兒子們殺掉了，加上之前被捉拿斬首的宇文泰的孫子、雍州牧畢王宇文賢，北周皇室勢力基本被清洗殆盡，楊堅奪取北周江山已經沒有了阻礙。