建安元年(公元196年)之後，曹操開始大殺四方。
當年十月，曹操擊敗楊奉。建安二年(公元197年)正月，曹操征討張繡，張繡不戰而降，可惜曹操興奮之餘收了張繡的嬸嬸，引得張繡反叛，夜裏帶兵襲擊曹操，曹操的長子曹昂、侄子曹安民、愛將典韋戰死；九月，曹操擊敗稱帝的袁術，袁術遁走；十一月，曹操擊敗劉表的部將鄧濟。建安三年(公元198年)三月，曹操擊敗張繡與劉表的聯軍；十月，曹操大破呂布於彭城、下邳，並於次年正月生擒呂布殺之。建安四年(公元199年)十一月，張繡在賈詡的建議下主動投降；幾乎同時，袁術被曹操擊敗，窮困潦倒，欲投奔袁紹，還沒成行便發病而死。
短短的三年時間，曹操便基本掃清他在北方的諸多對手，唯一失手的一次便是放走了劉備。
這位命運多舛的中山靖王之後跑到公孫瓚那裏後曾短暫地時來運轉：建安元年，徐州牧陶謙臨死前把徐州托付給劉備，劉備第一次有了像樣的地盤和軍隊。但沒過幾個月，呂布便趁劉備率軍和袁術對峙的時候襲擊下邳，陶謙的舊將曹豹投降呂布，守下邳的張飛敗走，呂布自稱徐州刺史。
腹背受敵的劉備非常狼狽，不僅丟了地盤，還丟了妻子，奔走之間又被呂布和袁術擊敗，眼看就要活不成了。
可劉玄德畢竟是能屈能伸的英雄，眼下事急從權，為了活命已顧不得奪州之恨，轉身便投了呂布。呂布從兗州敗走被劉備收留在前，乘人不備襲擊劉備在後，因此大概對劉備有愧，不但收留了劉備，讓他駐守小沛，並且歸還了劉備的妻子。後來袁術派大將紀靈進攻劉備，劉備不能抵擋，呂布還來了一手轅門射戟，救了劉備一命。
不過，呂布的氣量也有限。當劉備在小沛的力量逐漸發展起來之後，呂布便容不下他了，又把他趕出了小沛。劉備看自己在徐州實在待不下去，幹脆投奔了曹操。