天寶十五載七月初九，太子李亨到達靈武，並於七月十二日在諸將擁戴下繼位稱帝，是為唐肅宗。唐肅宗改元至德，遙尊在蜀地的唐玄宗為太上皇，並遣使入蜀通報。
此時的戰局呈現出新的特點：一方麵，長安失守，河北再次不保，唐軍在各地各自為戰暫時無力反攻；另一方麵，叛軍雖然攻破長安但鋒芒已大大減退，安祿山等人又不思進取，“既克長安，以為得誌，日夜縱酒，專以聲色寶賄為事，無複西出之意”[15]。這樣無論唐軍還是叛軍一時間都難再有所突破，戰局走向相持階段。七月底，郭子儀等人自河北回到靈武，唐廷稍有起色，重新謀劃戰局，一麵由郭子儀、李光弼帶兵分路出擊，另一麵則向回紇求援又加緊調集邊鎮援軍，謀求收複長安。
此時由於河北、關中失守，唐朝政府的物資供應便幾乎全部依靠江淮，因而阻擋叛軍南下便顯得尤為重要。唐將魯炅布防於南陽、襄陽，張巡、許遠則死守睢陽（今河南商丘）。到至德二載（757）十月，與叛軍交戰數百次，直戰至全軍覆沒，這些保衛江漢的行動有力地牽製了叛軍，支援了北方戰事，為唐軍最終收複兩京，提供了物質保障。
叛軍方麵，安祿山自起兵以來，雙目漸昏，至是不複睹物。又病疽，性情益躁暴，左右仆人小不如意，動加棰撻，或時殺之，遂至眾叛親離。至德二載正月，安祿山被其子安慶緒設計殺死，安慶緒繼位為大燕皇帝，但他的威望、才能都無法和其父安祿山相比，在叛軍中地位高、資格老的將領史思明擁兵於範陽不服調遣，安慶緒隻得封史思明為範陽節度使來籠絡他，叛軍勢力開始分裂。
唐軍自唐肅宗繼位後就開始不斷努力，試圖反攻收複兩京，當時的戰事對唐軍十分有利，唐軍在郭子儀、李光弼的帶領下於各地不斷取得勝利。至德二載九月，肅宗集結大軍並借來回紇軍隊共15萬人在廣平王李俶和郭子儀帶領下向長安發動進攻。安慶緒則調集10萬人馬於長安西北同唐軍交戰，結果安軍大敗，被唐軍乘勝奪回了長安。唐軍乘勝追擊收複潼關，一舉攻入關東。十月，唐軍再敗安軍主力並收複洛陽，安慶緒逃往鄴城（今河南安陽）。乾元元年（758）九月，唐軍聚集朔方郭子儀，河東李光弼，淮西魯炅等九鎮節度使兵馬數十萬人向鄴城進攻。十月，唐軍連敗安慶緒包圍鄴城，安慶緒百般無奈隻得向史思明求救。此時唐軍人數雖多但並無統一指揮，僅以宦官魚朝恩為觀軍容宣慰處置使，故而久攻不下。乾元二年（759）三月，史思明率兵增援安慶緒，與唐軍交戰，缺乏統一指揮的唐軍被擊敗，迫使各節度使撤圍退兵以自保。史思明成功解圍，隨後殺死安慶緒，於四月在範陽自立為帝。九月，史思明率兵南下再度攻陷洛陽，與李光弼對峙。