太平軍經過一番調整之後，穩定了自內訌以來的混亂局麵。鹹豐八年（1858年）六月，太平天國的高級將領召開會議，共商大計。他們經過一係列的精心部署，和前來攻擊的湘軍進行了激烈的交戰。結果在三河鎮湘軍大敗，太平軍士氣大長。
三河戰役勝利之後，陳玉成率領部隊一路前行，先是桐城，然後是廬江、界河、潛山、太湖等地，所到之處清兵連連退敗。當曾國藩得知太平軍下一個進攻的對象是安徽時，馬上和胡林翼商定進兵安徽的計劃。此時，李鴻章也投奔曾國藩門下，曾國藩很是高興，因為他知道李鴻章的才華和謀略。在李鴻章的出謀劃策之下，鹹豐九年（1859年）九月，曾國藩和胡林翼製訂了向安徽進軍的計劃：兵分三路，第一路由都興阿、多隆阿、鮑超及楊載福圍攻安慶；第二路由曾國藩率兵攻太湖、潛山、桐城；第三路由胡林翼率兵取道英山、舒城、六安，之後曾國藩又親自率領第一路軍隊進攻安慶。
鹹豐九年（1859年）十月二十四日，圍攻太湖的大隊人馬從不同方向出發，當他們會齊之後，便進攻太湖。陳玉成聞訊率萬人趕來支援，鮑超率領部隊抵擋陳玉成的援軍，由於勢單力薄，被陳玉成的部隊包圍住了。但他奮力抵抗，最終等來了援兵，裏應外合把陳玉成數萬軍隊擊敗，並燒了太平軍的糧食，致使陳玉成無奈之下撤離太湖，而湘軍則趁此機會占領了太湖。
鹹豐十年（1860年）七月，曾國藩被提升為兩江總督、欽差大臣，督辦江南軍務。曾國藩盼了多年終於盼來了這份官職，於是感覺身上的擔子更重了。鹹豐十一年（1861年）三月二十七日，曾國藩自祁門出發，在長江靠岸停泊的大船上設立了指揮部，指揮湘軍圍攻安慶城。這一次由於陳玉成的指揮失誤，在關鍵時候率兵離開集賢關，讓曾國藩和胡林翼有機可乘。曾國藩和胡林翼趁機命人包圍了集賢關，並且讓曾國荃包圍了菱湖，切斷了陳玉成部和外界的聯係。五月一日，鮑超及曾國荃率領士兵向對方發起了猛烈進攻。經過幾天幾夜的血戰之後，消滅了太平軍的精銳部隊。此時的陳玉成得知此事之後，非常後悔，他馬上率兵回頭迎救，但被多隆阿的部隊擋住了去路，後來和洪仁、林紹璋、黃文金、楊輔清一起攻打多隆阿，但沒有成功，無奈之下他率五萬餘人西入湖北，再由蘄州折而下行，折騰了七十多天才進入集賢關，而此時湘軍已打破了安慶城外的所有堡壘，包圍了城池，即安慶危在旦夕。