建安十六年(211),天子拜曹丕為五官中郎將,副丞相。
三月,曹操以經過關西討伐漢中張魯為名,出兵西進。關西諸將韓遂、馬超、楊秋、張橫、梁興等人發覺不對,聯兵十萬屯據潼關。曹操討伐荊州之前,馬騰的部將與韓遂的部將發生內訌,鍾繇讓涼州刺史韋端出麵調解。荊州戰事進行之中,曹操命人勸說馬騰散兵回朝,馬騰同意。曹操拜馬騰為衛尉,以其子馬超為偏將軍,留涼州統領其眾。馬騰及其家屬全部遷居鄴城。現在,馬超也顧不上老父親在曹操手上做著人質,毅然起兵,抵抗曹操對西北地區發動的統一戰爭。七月,曹操留曹丕守鄴城,自擊馬超。八月,曹操坐鎮潼關南岸,吸引關西軍隊,同時命徐晃等從黃河北岸的蒲阪西渡黃河,於西岸建立據點,然後將大軍陸續北調。曹操本人最後渡河,這時馬超率步騎萬人攻擊隻有幾百個衛士的曹操,許褚一手持馬鞍擋住箭矢,一手撐船,丁斐放出牛馬擾亂敵陣。渡過黃河,曹操笑著對部下說:“今天差點被小賊困住。”
九月,曹軍陸續渡過渭水,又從河西開了一條甬道,直通渭水北岸,糧草運輸通暢無阻。馬超等見此形勢,要求和談,曹操不許。但賈翊建議可以假假地同意,曹操問他計從何出,賈翊說:“離之而已。”曹操馬上回道:“解!”
韓遂的父親與曹操同時舉孝廉,韓遂本人年輕時去過京師,與曹操有點交情。因此當曹操與他在陣上相見時,曹操放馬上前,不和他談軍事,反而與他回憶起往事來了,什麽過去京師哪家妓院的妓女長得好,哪家館子的菜好吃,哪個地方的風景好;當初的朋友,現在哪個不在了,哪個在哪兒。談著談著,兩個人忘了是在疆場的敵手,一會兒唏噓,一會兒大笑。把陣後的馬超看得糊裏糊塗,過了些時,韓遂軍中的羌、胡騎兵湧上前來,曹操大聲說:“你們是不是想看看曹孟德?我也是人,並沒有四目兩口,隻是多些智謀罷了。”說罷大笑。羌胡兵交首而語,嘖嘖讚歎。