貞觀三年（公元629年），因為做了很多天怒人怨之事，東突厥汗國處於內外交困之中，一直受其威脅的大唐帝國決定轉守為攻，徹底消滅這個禍害。
當年十一月，誌在必得的唐王朝出動全部精銳部隊，由大將李靖、李勣、李道宗、柴紹、衛孝節、薛萬徹等率領，兵分多路北征突厥，“兵鋒所至，攻無不克”。第二年，主帥李靖親率精騎成功突襲突厥王城，不僅斬首數萬、俘獲無數，還把頡利可汗也抓了，東突厥汗國自此滅亡，東突厥各部納入唐朝統治。
消除了這個宿敵，大唐終於鬆了一口氣，那以後半個多世紀左右，唐王朝統治下的東突厥各部都能做到安分守己，老老實實地過日子。可是唐朝沒有珍惜這種來之不易的和諧局麵，每當有戰事發生就讓他們去打仗，把他們當炮灰使用。突厥人漸漸心生不滿——既然你不仁，就別怪咱不義，幹脆，咱們複國吧，複了國就不用給別人當炮灰了。
公元682年，一個名叫骨咄祿的吐屯（突厥官名，相當於禦史）幹了一件大事，帶領區區700人“起義”，順利地占領了黑沙城（今內蒙古呼和浩特西北），以及漠北的烏德鞬山（今蒙古國鄂爾渾河杭愛山），重新建立了突厥政權，自號“頡跌利施可汗”。這個禦史建立的政權，即後突厥汗國。
第二年，後突厥軍隊進攻蔚州，並將唐軍打敗。從此以後，唐朝北部邊境再次不得安寧，後突厥軍隊每年都要來搞一下，文雅的說法叫“侵犯唐朝邊境”。後突厥的勢力，自然是越搞越大，占領的土地也越來越多。
那時，一個叫阿史德元珍（投降唐朝的突厥人）的檢校犯了王法，被長史王本立抓了起來。眼看就要被問罪，他的救星來了，骨咄祿入侵時，阿史德元珍請求王本立讓他去勸突厥諸部撤退，將功折罪。唐朝方麵同意讓他試試，那家夥卻一去不返，投降了後突厥，被骨咄祿任命為掌管全部兵馬的阿波達幹（官職名）。阿史德元珍走馬上任後，後突厥軍開始進攻並州（治所在今山西省太原市西南）及單於都護府（治所在今內蒙古自治區和林格爾縣西北），殺嵐州（治所在今山西省嵐縣）刺史王德茂，如果不是唐將薛仁貴將其擊潰，整個山西都很危險，山西如若不保，首都長安亦將處於危險之中。