“削藩”,最為緊迫的當是削奪藩鎮兵權。五代亂世，兵力成為權力、王朝的象征，誰擁有實力最強盛的兵力，誰就可以當皇帝。尤其是禁軍的向背，往往兵力可以決定政權的興亡。後唐明宗李嗣源、末帝李從珂，後周太祖郭威都是由於得到禁軍的擁戴登上皇位的。趙匡胤當年，曾協助郭威奪取政權，後來由於戰功卓著，不斷加官晉職，直至被任命為殿前都點檢，掌握了禁軍最高指揮權。幾年之後，趙匡胤利用自己所處的優越位置和多年樹立的威信，輕而易舉地取代了後周政權，當上了宋朝的開國皇帝。“興亡以兵”,對於宋太祖而言，應該是感受頗深。
宋太祖不愧為義氣之輩，他即位後不久，為了酬謝部下的翊戴之功，特地晉升了一批參與擁戴稱帝的親信為禁軍的高級將領。石守信為歸德節度使、侍衛馬步軍副都指揮使，高懷德為義成節度使、殿前副都點檢，張令鋒為鎮安節度使、馬步軍都虞侯，王審琦為泰寧節度使、殿前都指揮使，趙彥徽為武信節度使、步軍都指揮使，張光翰為寧江節度使、馬軍都指揮使。他們的官爵階勳“並從超等”。但宋太祖心裏清楚，這些手握重兵的高級將領終究是自己政權的潛在威脅。殊不知，太祖即位之初的一段時間裏，隻要聽說節度使特別是邊鎮節度使有“謀反”的跡象，他都要暗中派人前往偵察，探聽虛實，看是否真有謀反跡象，以便采取措施。這說明宋太祖很不放心手握兵權的武將。事實上，宋太祖在賞賜這些將帥擁戴之功的同時，就已經有意識地采取措施抑製他們兵權的過分膨脹。如重要軍職頻繁換人，並借機免掉一些將領的兵權。比如，平定李筠叛亂後，命令韓重贇代替張光翰為侍衛馬軍都指揮使，羅彥瑰代替趙彥徽為侍衛步軍都指揮使。