時曹操從宛城下令緊急撤退到舞陰城，各部隊分道行動。夏侯惇率領的青州軍，軍紀一向鬆散，便乘機下鄉打劫民家。平虜校尉於禁帶本部兵馬緊急撤退時，得到這個消息，立刻下令前往圍剿，安撫鄉民。青州軍缺乏組織，潰散後拚命逃回曹操的大本營，並控告於禁造反，屠殺自己陣營的人馬。曹操未明就裏，乃下令先到達的李典、樂進、曹洪的部隊整編，以備緊急應變，一方麵派出細作，探詢於禁軍動向。
於禁部隊到達舞陰城時，張繡的追軍已相當接近，於禁下令先布陣，並進行防禦工事，有人告訴他，青州兵已在曹操麵前告他叛亂，不趕快麵見曹操以辯是非，卻在此建築防禦工事，豈不再引起曹操疑心。
於禁正色表示： “如今敵人就在後頭，隨時會到，不趕快建構防禦工事，如何抵抗敵人?分辯事小，拒敵事大，何況曹公聰明，是非曲直，自會察明。”
果然，部署剛完成，張繡追軍已到，於禁一馬當先奮力抵擋，曹操軍乘機由舞陰城殺出，大敗張繡軍。事後曹操召見於禁，問明原因後，曹操非常高興地表示： “這次戰役，我們輸得相當淒慘，將軍在一片紛亂之中，尚能嚴整軍紀，討伐暴兵，匆忙之間，又能整兵堅壘，任謗任怨，讓我們得以反敗為勝，雖古代名將，也不一定能做得到。”
除了在眾將之前褒獎一番，並賜予金器一副，封於禁益壽亭侯。
曹操退回許都時，連南陽、章陵諸縣也都倒向張繡陣營，曹操幾乎完全喪失對豫州的統治權。雖然其間曹洪曾不斷向張繡軍進行突擊戰，但成效不大。由於糧草供應困難，曹操下令東撤到鄴城，張繡也經常派軍隊威脅並騷擾鄴城的守軍。
建安二年(197)十二月，曹操再度西征。這時候張繡的大本營仍然設在宛城，其前鋒部隊則部署在東北八十裏處的舞陰城，張繡的盟軍荊州牧劉表則派遣支援軍，部署在宛城東南約九十裏處的湖陽城，互為掎角，阻止曹軍向豫州西半部入侵。