趙匡胤做了皇帝以後，首先考慮的是如何加強中央集權的問題。這是因為，從五代以來，武人跋扈專權，將士擁立主帥做皇帝的風氣很盛，如果不加強中央集權，新建立的政權就很難鞏固。事實上，宋政權建立不久，就先後有兩個節度使起兵叛亂。叛亂雖然很快就被平定，但是武將仍舊操縱著國家的軍事大權，這點正是讓趙匡胤寢食不安的大患。
為了加強中央的軍事實力，消滅可能叛變的地方武裝力量，趙匡胤采納了大臣趙普的建議，采取了一係列逐步削奪節度使軍權和財權的措施。
在集中軍權方麵。建隆元年（960），趙匡胤命令各州長官把地方的精壯士兵選拔出來，送到京師，補作禁軍（禁軍是當時全國最主要、最精銳的軍隊）。同時，還創立“更戍法”。命令禁軍經常輪流到各地去守衛，表麵上說是讓士兵“習勤苦，均勞逸”，實際上是利用這種辦法，以達到“兵不諳將，將不專兵”的目的。
建隆二年（961）秋天，某日，趙匡胤舉行宴會，邀請掌管禁軍的節度使石守信、王審琦等一塊兒喝酒。在大家酒興正酣的時候，趙匡胤屏退左右，對這些將領們說：“我若沒有你們的幫助，不會有今天。可是，做皇帝實在沒有做節度使快樂！”石守信等聽了，忙說：“陛下為什麽說這樣的話？現在天下已定，誰還敢有異心？”趙匡胤說：“哪個節度使不想做皇帝？就算你們不想，有一天部下逼著你們做，硬把黃袍加在你們身上，那時就不容你們不做了。”石守信等說：“我們斷不敢有這種夢想。”趙匡胤說：“人生不過幾十年，求富貴的人，不過是想多積金錢，好自己享樂，使子孫免於貧窮。你們何不交出兵權，到地方上去，多買些田地房產，為子孫長久打算；你們也可以多蓄養歌兒舞女，盡情享受，以終天年！如果能夠這樣，我可以和你們結為姻親，君臣之間，兩無猜疑，豈不是好！”石守信等聽了趙匡胤的話，當然明白是什麽意思，第二天都自動告病，並請求朝廷解除自己的軍職。趙匡胤都一一批準。這就是曆史上所說的“杯酒釋兵權”。