隨後，鹹豐皇帝又以株守長沙不主動迎戰之罪名，將湖南提督鮑起豹革職，任命雲南騰越鎮總兵常存為提督，在其未到任前，由塔齊布暫署。兩個月後，駱秉章參奏常存在長沙守城時，畏葸逃避，改授塔齊布為湖南提督。至此，湘軍在與湖南大吏的長期爭鬥中取得了重大勝利，從此在湖南便站穩了腳根。
在這種艱難的境遇下，曾國藩回到長沙以後，咬牙立誌徐圖自強，他認真總結了嶽州、靖港二次戰爭的慘痛經驗教訓，努力克服自己的弱點，為湘軍日後出外作戰積累了經驗。在曾國藩看來，湘軍各營在幾次戰鬥中暴露出來的種種弱點，其政治原因是功罪不分，賞罰不明；其組織原因是良莠不分，勇懦不一。因此，他對湘軍進行了整編。據查，湘軍嶽州大敗，敢於同太平軍進行抵抗的，隻有彭玉麟一營；湘潭之戰，浴血奮戰的隻有塔齊布兩營、楊載福兩營。曾國藩根據兵貴精而不貴多的原則，依據勇於戰鬥的條件，決定士兵的去留。他從明賞罰、嚴軍紀做起，凡潰散之營便不再收集，營哨兵勇一律裁去不用。經過這番整頓和裁撤，留下的僅有水陸兩部五千人。其弟曾國葆也在被裁之列，這對曾國葆的打擊很大，多少年後還一直深居簡出，拒見賓客。同時決定將王鑫留在湖南。命羅澤南跟隨其出征。令塔齊布、羅澤南、彭玉麟、楊載福增募新勇，使湘軍人數又擴至一萬餘人。在衡州、湘潭修造船隻，與此同時，除湘軍本身的擴充以外，將胡林翼的黔勇增募至二千，征調了登州鎮總兵陳輝龍所率的船隊和廣西候補道員李孟群統率的船隊，共計一千餘人。
經過長沙整軍以後，湘軍能戰能守，這與曾國藩努力改正自己的弱點有著極為密切的聯係。
曾國藩一生雖不能算是立下不世之功，但也成為“古今不一二睹之大人物”，這和他終身所奉行的也是為人們所推崇的“忍耐”是密不可分的。