1647年初（順治三年底），張獻忠在西充縣境不幸犧牲。大西軍急速南撤，麵臨著嚴峻的考驗。他們後麵是窮追而來的強勁清軍，前麵又有南明軍隊憑借長江扼守，大西軍幾乎走到了山窮水盡的境地。然而，在孫可望、李定國、劉文秀、艾能奇的領導下，大西軍餘部一舉擊破據守重慶的南明總兵曾英部，曾英落水淹死，部眾潰逃。大西軍渡過長江天險，打開了南進的通途，為實現由黔入滇的戰略轉移奠定了基礎。
張獻忠犧牲以後，領導大西軍的重任很自然地落到了孫可望的肩上。他立即改變張獻忠濫殺無辜的過火行動。1647年正月初一日，大西軍餘部集中於四川綦江，收集潰散，重整隊伍[17]，下令：“自今非接鬥，不得殺人。”[18]接著，孫可望等率領經過整頓的部隊進入遵義，“秋毫無犯”[19]。由於清肅親王豪格派遣的軍隊追蹤而來，大西軍繼續南撤，進入貴州，“所過民皆安堵”[20]，順利地占領了省會貴陽。明貴州按察使張耀、布政司參議曾益、都指揮使陳瑞征等逃到定番州（今貴州省惠水縣），拚湊了一批反動武裝負隅頑抗。孫可望派定北將軍艾能奇領兵進攻，在二月十二日攻克定番，張耀等被處死，曾益自殺。[21]清軍前鋒在占領遵義和川東部分地區後，因地方殘破，到處是一片荒蕪，糧食接濟不上，被迫“凱旋”回師。大西軍在貴州的勝利，使自己擺脫了清軍的追擊，得以整頓內部和休養士卒。
大西軍南下後出現的氣象一新，同孫可望等人整肅內部有密切關係。張獻忠遇難後，他的妻子和親信宰相汪兆齡仍然高踞諸將之上，主張照舊行事，即繼續推行獻忠在世時的過激政策。“時可望等奉偽皇後為主，駐遵義桃源洞。諸賊每早必先往朝，凡事奏請而行。偽宰相汪某輔之……每公會議事，猶傲據諸賊上”[22]。孫可望等人認識到政策上的改弦易轍已經成為大西軍生死存亡的關鍵，必須采取果斷行動清除改革的障礙。因此，孫可望、李定國、劉文秀、艾能奇一致決定把“皇後”和汪兆齡處死[23]，四人被張獻忠收為養子後均改姓張，這時各自恢複原姓。這樣，形成了四將軍領導的體製。四人中孫可望原來的地位和威信比較高，年紀稍大，又讀書識字，自然成了主要的領導人。