晉中大敗後，閻軍精銳損失殆盡，晉中地區已被徐向前奪去，全省各地紛紛告急，軍隊、文職官員、地主商紳，以及家境富裕的平民，都提箱負篋向著太原逃亡。
由於閻錫山的野戰軍主力被殲，要防守各城市已不可能，唯一能做的，就是集中全部剩餘兵力，在太原四周添築防禦工事，實行死守，等待時局變化。所以，閻錫山在晉中戰役結束之前，認為留在解放軍南邊的晉中幾個縣的部隊不但給不上力，恐將來早遲也要被解放軍分而食之。為了把這些部隊留作防守太原的本錢，閻錫山連發數令，命令駐紮在汾陽、文水、平遙、介休的統兵軍頭，以及上述各縣的行政幹部、地方團體，民衛軍一律撤至太原，歸第四十三軍軍長劉效曾統一指揮。
這種看上去簡直像是民族大遷徙似的撤退，不啻是不戰而逃。於是，晉中平原上出現了極其荒誕的一幕：閻錫山的部隊和地方官員、民團、地主、商紳在前麵不要命地向著太原方向逃，徐向前指揮的解放軍在後麵不要命地追。抓鴨子的難度，遠遠超過了抓俘虜！趙承綬的野戰軍加上駐紮在晉中各縣的部隊，閻軍超過了十萬人，十萬大軍就這樣放了羊，有的被解放軍截擊，有的自動散夥回了家，最終逃到太原被收容下來的，不足兩萬人。
接到大撤退命令時，被閻錫山寄予厚望的劉效曾還在汾陽城裏。七月十九日他便率領一萬四五千軍民潮水般向城外湧去。剛走到汾陽城東，便遭到解放軍兩個團的攻擊。奉命逃跑的軍隊哪裏還敢戀戰，扔下專縣政府的官員和家屬，扯抻腳杆便逃，遇上解放軍阻截便打上幾槍。丟盔棄甲不說，行李輜重損失殆盡。劉效曾部二十四日逃到太原城郊時，隻剩下四千來人，其餘不是跑散，就是被俘，真正死在解放軍槍口下的，微乎其微。