1932年，國民黨內部蔣、汪合流，閻錫山東山再起，就任太原綏靖公署主任。中原大戰的失敗使閻錫山不得不吸取教訓，重新回到保境安民、發展經濟的老路上來，但在這一過程中，施政理念與工作作風上的差異，使閻錫山與出任山西省政府主席的徐永昌在許多具體問題上分歧日趨嚴重。
1934年11月8日，蔣介石攜宋美齡、孔祥熙等人飛抵太原。蔣介石一生曾4次訪問太原，每一次都與徐永昌有著密切關係。蔣介石第一次訪晉期間，徐永昌多次設宴接待蔣介石，並與之商議山西經濟建設等問題。蔣介石前往太穀孔祥熙家做客的兩天中，徐永昌也全程陪同。蔣介石器重徐永昌的才幹與為人，早有將其羅致麾下之意，不久，他就向徐永昌提出到中央任職的建議。在閻錫山扣留了兩份調令之後，1937年3月，徐永昌最終接受國民政府軍事委員會辦公廳主任的任命，從此正式脫離山西，進入中樞參讚戎機，此後又先後出任軍令部部長、陸軍大學校長、國防部長等職務。
對於那個時代的山西統治集團而言，如果由閻錫山主政，徐永昌掌軍，無疑是一個絕佳的組合。然而，無法回避的問題是，即使他們能夠解決個人性格與權力製衡上的種種矛盾而繼續合作，那個動**的時代也無法提供一個堅實的舞台，也是曆史的必然。
作為生於斯長於斯的山西人，桑梓情深，豈能隨著一紙調令而割舍？在投歸山西前的軍閥混戰年代裏，徐永昌就曾經三次拒絕攻打山西。離開山西後，身在中央的徐永昌利用他的影響，屢屢為山西、為晉綏軍助一臂之力。閻錫山與徐永昌在工作中的分歧並沒有影響到他們的私交，徐永昌因此成為閻錫山與中央的聯絡人。閻錫山有求於蔣介石的重大事項得不到解決時，都要請徐永昌疏通；蔣介石需要了解閻錫山的意向時，也派徐永昌前往。後來在閻錫山的老部下、晉綏軍舊將傅作義、董其武相繼起義前夕，閻錫山又請徐永昌多次奔波往返，以圖扭轉局勢。