張繡自從去年在宛城大敗曹操之後，擔心曹操反攻報複，便率軍退守穰城，並遣使者到荊州與劉表和好，劉表雖然很討厭張繡這種出爾反爾不守信用的人，但他考慮到北方曹操的壓力，不得不和張繡重新修好，聯合張繡，對曹操進行侵擾，先後攻占南陽等地。
曹操派曹洪去攻打張繡，卻被張繡大敗，曹洪退守葉縣，曹操不得不親自南征，於公元197年十一月兵發南陽，拔湖陽，生擒劉表守將鄧濟，這一次曹操戰果豐礫，幾手淯水以東的南陽地區全部被攻克，到第二年正月，曹操引軍還許都。
為了徹底的消除南麵張繡之患，公元198年3月，曹操再次率大軍親征張繡。
荀彧諫道，“主公，以我之見現在不易急攻張繡，張繡是劉表的馬前卒，如果我們現在急攻張繡，張繡勢必和劉表更加團結，張繡隻所以依附劉表，那是張繡的錢財糧草全部由劉表供應，我們不如緩圖張繡，給張繡以財物，這樣劉表就會對張繡生疑，兩家勢必反目，在那個時候我們再出兵必定會一戰而勝。”
曹操道，“文若雖言之有理，但許都周圍豪強猶存，東有呂布，南有張繡、劉表、袁術，西有李傕、馬騰、韓遂，北有張燕、袁紹，他們無時不刻都在盯著許都，如果我坐等張繡劉表反目成仇，假如沒有效果，反而使他們的力量得到加強，所以，我必須出兵，先剿滅張繡，再圖其他。”
於是，曹操不聽荀彧諫言，他一方麵發兵去攻打張繡，一方麵派謁者仆射裴茂持符節總督關中諸軍，率領段煨等軍攻打李傕，斬李傕，段煨將李傕首級送往許都，獻帝令將其首級高懸許都城門示眾。獻帝對李傕也是恨之入骨，李傕被殺，正好除了他這一心頭之恨。
曹操大軍渡過淯水直奔穰城， 張繡一麵派使者去劉表處求救，一麵緊閉四門，嚴防死守。