就在隨後的幾天裏，又有幾批勤王的援軍來到了西都城附近：隴西郡的兵馬到了西都東南，武威郡援軍到了西都東北，不過這兩路的援軍合計不過萬人，所以也隻好效仿金城郡的兵馬，把盤踞某個小城池的小股鮮卑人殲滅或者打跑，然後再派出人馬襲擾小股的鮮卑軍。
受到援軍到來的鼓舞，西平郡內漢人開始自發組織起來，打擊出來搶掠的鮮卑人，這個時候晉朝完備的預備役製度發揮了極大的作用。在西北這個民風彪悍的地方，幾乎家家戶戶都備有長刀、弓箭等冷兵器。
由於胡人大軍沒有後勤補給，一切都要依靠“以戰養戰”，連續幾股鮮卑人都折到了人民戰爭的汪洋大海中之後，使得鮮卑兵“非千餘騎不敢出”。禿發務丸不得不再分出些兵馬對付隴西、武威兩地的援軍，並且還放棄了某些城池，以使的鮮卑人可以集中一些。
陸續到來的援軍對鮮卑人產生了一些牽製作用，但離為西都解圍還差得太遠。
從元月初五曰起，鮮卑人停止了大規模的進攻，但是小的進攻卻每曰都有。守城的物資隨著消耗也逐漸顯露不足，軍民甚至拆除房屋，取其磚石、木料用來守城。
此時周邊的涼州、秦州、雍州、梁州等郡縣已經聞警，動員各地都督府征兵，準備前往涼州救駕。京城洛陽接到急報之後，迅速戒嚴起來以防不測。
在司馬遹掌權之後，涼州與其他各郡相比，兵力上要薄弱很多，現在西都真正可以倚仗的援軍，是朝廷駐屯在秦雍兩州的幾萬人馬。雍州刺史皇甫真已經接到急報，不過由於雍州還要應付來自並州的威脅，經過他再三協調，最終由廂軍、府兵共同組建了一支三萬人騎兵部隊，這支部隊由正在進修學習的張方擔任統帥。
雖然很多人對張方擔任統帥有些擔憂，不過皇甫真曾跟隨司馬遹接觸過對方，知道他是一名將才，所以他力排眾議堅持任張方為大軍統帥。