1975年
1月，任中共中央副主席、國務院副總理、中央軍委副主席、人民解放軍總參謀長，主持黨和國家的日常工作。開始全麵整頓，糾正“**”錯誤。
1月至10月，在黨的會議上，在關於軍隊、鐵路、鋼鐵、國防工業、科教、農業等方麵的工作會議上，多次發表講話，提出各方麵都要整頓，整頓的核心是黨的整頓。強調要安定團結，把國民經濟搞上去。整頓取得明顯成效。
5月，應邀對法國進行正式訪問。
年底，在“反擊右傾翻案風”運動中再度受到錯誤批判。
1976年
4月，北京發生悼念周恩來總理、擁護鄧小平、反對“四人幫”的“天安門事件”，被撤銷一切職務。
10月，中共中央政治局執行黨和人民意誌，粉碎“四人幫”。“**”結束。
1977年
4月10日，致信中共中央，提出我們必須世世代代地用準確的完整的毛澤東思想來指導我們全黨、全軍和全國人民。5月3日，中共中央批轉此信，肯定了鄧小平的意見。
5月24日，同中央兩位有關負責人談話時指出，“兩個凡是”（即“凡是毛主席作出的決策，我們都堅決維護；凡是毛主席的指示，我們都始終不渝地遵循”）不符合馬克思主義；一定要在黨內造成一種空氣，尊重知識，尊重人才。
7月，中共十屆三中全會通過決議，恢複鄧小平原任的黨政軍領導職務。鄧小平在會上講話指出，要完整地準確地理解毛澤東思想；群眾路線和實事求是，是毛澤東倡導的作風中最根本的東西。
8月至9月，多次召開座談會，強調不抓科學、教育，四個現代化就沒有希望。領導和推動科技和教育戰線的撥亂反正。
1978年
3月8日，當選為第五屆全國政治協商會議主席。
3月18日，在全國科學大會開幕式上講話，係統地論述科學技術在社會主義現代化建設中的關鍵作用。