臧霸便向劉備說：“以前我之所以能自立一方，是因為我不會做這種事。我受曹公的存命之恩，不敢違其命令。不過有意於王霸之道的君主應該以義相告，不宜威迫，願將軍為我辭卻這個命令。”
劉備便以臧霸所言告訴曹操，曹操歎息地向臧霸道：“這是古人仁德之事，而你能夠加以奉行，這也正是孤之所願。”於是皆以徐、毛二人為郡守。
官渡之戰，曹操與袁紹相拒，而臧霸數以精兵投入青州，所以曹操不用顧念東方之事，能專心應付袁紹，所以這是臧霸決心跟隨曹操，不然曹操的後方早亂了。
後曹操破袁譚於南皮，臧霸等前往祝賀。
臧霸便求遣子弟及諸將之父兄家屬前往鄴城，曹操道：“諸位忠心報國，但何必要如此來表現呢。昔日蕭何派遣子弟入侍，而漢高祖沒有拒絕，耿純焚燒自己的房子、馬車追隨，而光武帝沒有辜負他的好意，現在我又怎麽好改變前人的做法呢！”
當時東州擾攘不止，而臧霸等執正匡義，征暴伐虐，清定海岱，其功莫大，於是皆封列侯，臧霸因功拜為都亭侯，加威虜將軍。
後來昌豨在東海郡謀反，臧霸與於禁討昌豨於東海，昌豨降，為於禁引用法令所誅，看看臧霸始終沒說求情是話，他都投降曹操了，在加上昌豨自己作死，他為什麽要求情。
張遼圍剿陳蘭時，臧霸與於禁征討梅成，因於禁中偽降計，梅成得以率其三千餘與陳蘭匯合於灊山。
於是臧霸被曹操調到皖，討伐孫權大將韓當，使孫權不得前救陳蘭，韓當派兵阻攔臧霸。
雙方在逢龍展開戰鬥，韓當另外派兵在夾石口迎擊臧霸，均被臧霸擊破，臧霸回軍屯駐舒城。
孫權派遣了數萬人的東吳援軍乘船屯於舒口，分兵往救陳蘭，但聞知臧霸軍在舒城時，立即遁還。