漸赤烏送回來的消息非常及時。檀石槐攻破盧龍塞，劫掠遼西三縣以後，不攻右北平和臨渝城，而是及時脫身回軍玄水城，肯定是擔心被堵在關塞以南。如此一來，張胤就不得不正麵和鮮卑大軍較量一番。
玄水城是張胤主張建立的，背山麵水，就在玄水河畔。玄水城早已被槐樅和素和宥連攻破，城內老幼被屠戮殆盡，隻餘青壯——鮮卑人需要修城牆、挖壕溝的奴隸。
檀石槐大軍比漢軍早兩日到玄水城，背城麵水陸續紮下三個大營，以待張胤。丁零王跋延忽勒率一萬五千丁零精騎居左，丘力居引烏桓突騎萬人居右，檀石槐親率鮮卑大軍兩萬騎居中坐鎮。另外，槐樅和素和宥連的殘部兩千餘人以及數千傷兵隱於玄水城中。
漢軍與檀石槐隔河相望，隻是兵力要少得多。遼西郡兵、烏桓營和破鮮卑營，以及屯田兵，加起來也隻有一萬五千人，尚不到鮮卑人的三分之一。雖然兵力不占優，但是士氣卻絲毫不差。鮮卑人在肥如、和令支等縣的暴行，並沒有擊潰漢軍的軍心，反而激起無窮的憤怒和鬥誌。
兩軍隔河對峙，鮮卑人在西岸，漢軍在東岸。漢軍是連續數日強行軍而來，還沒能紮下大營。檀石槐遙望對岸漢軍迅速列成大陣，不由讚道：“果然不愧是天下強軍，訓練有素。”
遼西漢軍人數少，又有玄水橫亙眼前，自然不願強行渡河攻擊，但是若論起對峙消耗，也不占什麽優勢。為了提高行軍速度，張胤將攜帶輜重降到了最低，滿打滿算遼西漢軍也隻有二十日之糧，後續之糧還需要劉備、劉修、程凜運來。而檀石槐軍有隨軍和劫掠來的數十萬石糧草以及無數牛羊打底，底氣十足，完全不懼持久戰。這個時候，檀石槐考慮的也正是要不要趁漢軍立足不穩強行渡河出擊？
才回不久的劉豐看出了檀石槐的心思，道：“玄水，深不及丈，寬亦不過二三十丈。漢軍人少，遠來疲憊，又無營安頓，人人不安。我王可使勇士率眾渡河擊之不穩。一戰可操必勝！”