就在頑強以平原郡為中心的河北東南部官民同叛軍浴血奮戰的時候，常山郡官民與平原郡的抗敵鬥爭遙相呼應，也與叛軍進行了頑強的戰鬥。
常山郡位置非常重要(治今河北正定)是叛軍南北咽喉之地，西南有土門(井陘口)之險，是河東通河北的軍事要塞。時顏真卿任常山太守，他性情剛烈，處事果斷，原任範陽戶曹參軍，經安祿山推薦始任營田判官、攝常山太守。
安祿山起兵南下到了槁城(今河北槁城),顏真卿一時無力抵抗，隻好與長史袁履謙前去迎接，安祿山賜予他紫袍，賜袁履謙緋袍，並把他的一個兒子作為人質隨軍南下。
在返回常山的途中，顏真卿指著所賜章服對袁履謙說：“我與你為何穿此服?”袁履謙明白了他的意思，遂秘密準備起兵。顏真卿從此稱病不治理郡事，暗中卻與袁履謙、真定令賈深、內丘令張通幽謀劃方案，又讓其子顏泉明往返於各地聯絡，並與太原尹王承業取得了聯係。
天寶十四年(755)十二月，朔方節度使郭子儀奉命率軍東下，擊敗了進犯振武軍(今內蒙托克托)的叛軍大同軍使高秀岩部，又乘勝東進，攻下靜邊軍(今山西右玉)。
郭子儀命左兵馬使李光弼、右兵馬使高溶、左武鋒使卜固懷恩等將擊潰了前來進犯的大同兵馬使薛忠義部，坑殺其騎兵七千餘人。
接著，郭子儀派兵包圍了雲中(今山西大同),另派將領公孫瓊岩率二千騎兵攻克軍事要地馬邑(今山西朔縣東北),又打開了雁門東陘關(在今山西代縣)。至此，解除了大同叛軍對河東太原的軍事威脅，為官軍進兵河北掃清了道路。
顏真卿認為起兵時機成熟，既可開井陘口，迎接官軍，又可牽製安祿山主力軍西攻長安，遂決定起兵。這時安祿山派金吾將軍高邈赴幽州征兵，尚未回來，顏真卿以安祿山之命召駐守土門的李欽湊及其將領來常山受犒賞。