英國人的背信棄義和避免與日軍作戰保存實力的結果，致使擔負西線進攻的日軍第33師團占領了欽敦江上距瑞保隻有六十英裏的望瀨，對英軍退往印度的道路也形成了直接的威脅。英軍必須趕在日本軍隊到達之前鞏固好欽敦江上加列瓦渡口的防守陣地。東西兩線的潰敗，使中國遠征軍隻得放棄曼德勒向緬北撤退。在收複棠吉之後的200師尾追攻擊雷列姆之日軍，成為第五軍殿後的一支部隊。而第96師則在曼德勒以北向密支那方向撤退。新22師和第五軍軍部則滯留在曼德勒附近，處在第96師和第200師之間。
由於戰局的突變，史迪威深知失敗的難以改變，為了盡可能地減少中國遠征軍的損失，他與美國方麵和英國方麵就中國軍隊如果回國道路被阻斷以後的出路做過磋商，由於美國方麵的協調，英國當局同意中國軍隊可以退往印度，由英國當局提供駐地和給養，由美國方麵提供裝備和訓練，史迪威萌生了訓練一支用美國武器裝備武裝的、經美國教官訓練的、具有中國士兵吃苦耐勞精神的新型中國軍隊，以期重新收複緬甸的思路。
新22師和杜聿明的軍部在曼德勒一線滯留時間太長，他們大肆收羅英國遺棄的重型武器裝備，試圖運回國內，故延遲了撤向北緬的時間。史迪威走在最後，當他撤離曼德勒通過阿瓦大橋後，將此橋炸毀。200師則成了孤懸於主力之外，周旋於緬甸中部日軍包圍之中的一支部隊。
史迪威在撤向緬北的途中得知占領臘戍的日軍分兵攻占了八莫和畹町，遂下令中國遠征軍沿著英軍退卻的路線向印度撤退的命令。
蔣介石於4月29日從重慶來電，原則上同意在印度訓練中國軍隊的計劃。但杜聿明深知自己如果去了印度與史迪威的過節肯定會使他的日子不好過，他給羅卓英的電報稱：“我軍戰敗入印，將為印人所不齒。”表示自己仍堅持向密支那方向轉移，與畹町來犯密支那的日軍決一死戰。勝可保存緬北一隅，敗則退守騰衝。同時也給蔣介石發去此電，蔣介石同意了杜聿明的意見，認為應向密支那、片馬轉移，不能再猶豫停頓了。由於日軍於5月10日占領了密支那，杜聿明率新22師和第五軍軍部隻能轉向野人山區。而96師則衝破了日軍的攔截，從孟拱向葡萄方向退卻。