宋軍在平定北漢時，在太原集結了數十萬部隊。趙光義意圖乘戰勝的餘威，一舉奪取幽雲地區。但是，宋軍“攻圍太原累月，饋餉且盡，士疲乏”，需要休整。同時“人人有希賞意”，需要對攻克太原進行論功行賞以利再戰。因此大多數將領不讚成立即向遼進軍，但無人敢直言諫阻。隻有崔翰慫恿趙光義，認為機不可失，時不再來，如能挾戰勝之威，攻取幽州如探囊取物。趙光義於是決意北伐，命曹彬負責部署軍隊行動，潘美組織糧運管理後勤。其戰略方針是：以幽州為主要作戰目標，迅速自太原轉移兵力東進，越過山丘重疊、溝壑縱橫的太行山，乘遼無備，實施突然襲擊，一舉奪占幽州。一旦幽州得手，必然震動其餘諸州，然後乘勝收複全部幽雲地區。
太平興國四年（979年）五月二十日，宋軍從太原分路東進，翻越太行山，進入河北平原。由於宋軍每天以百裏的速度迅速開進，暴露在宋軍側後的遼東易州（治岐溝關）守軍孤立無援，不戰而降。這時，遼北院大王耶律奚底、將領蕭托古和伊實王薩哈在沙河（今易縣東南的易水）迎擊宋軍，企圖阻止宋軍向幽州推進，被宋軍擊敗。六月二十一日宋軍進至涿州，遼涿州守將開城投降。遼南院大王耶律斜珍看到宋軍兵鋒甚銳，不敢正麵交鋒，率兵進駐清沙河北（在今北京清河鎮一帶），以聲援幽州，從而使幽州、得勝口、清沙河結成犄角之勢，並保持了幽州與山後的聯係，因而增強了幽州遼軍固守待援的決心。趙光義認為耶律斜珍隻能憑險固守，便以一部牽製其軍，部署主力圍攻幽州。六月二十五日對幽州展開圍攻：宋渥率部攻南麵，崔彥進率部攻北麵，劉遇率部攻東麵，孟玄喆率部攻西麵。遼將韓德讓、耶律學古一麵加強守備，一麵安定人心，以待援軍到來。