劉璋不戰而降，拱手將成都獻給劉備，曹操聞之歎道：“益州險阻，又有金堤束水灌溉，實為殷富之土。劉璋若非將劉備請入蜀地，劉備如何能輕鬆得到益州？唉，劉備一生沒有根據之地，他現在得了益州，實大禍患也。”曹操一直對劉備十分忌憚，當他與袁紹的大戰前夕，還領軍前往徐州剿滅劉備，並向眾人說明先擊劉備的理由——“劉備，人傑也，今不擊，必為後患。”現在劉備占了益州，曹操當然重視，遂號令全軍向漢中進發。
漢中郡隸屬益州，治所設在南鄭（今陝西省漢中市），其北抵秦嶺南麓，南與蜀中平原相接，是益州的北方門戶。張魯為五鬥米道的第三代天師，其於漢靈帝初平二年率眾擊殺朝廷的漢中太守，從此割據於漢中二十餘年，以五鬥米道教化民眾，形成了政教合一的統治方式。
因為秦嶺橫亙在關中與漢中之間，所以自關中通往蜀中的道路最是難行。曹操當年往征並州高幹的時候，因為山路難行寫作《苦寒行》，其中有“羊腸阪詰屈，車輪為之摧”的詩句。他此番進軍漢中，選擇了自陳倉（今陝西省寶雞市陳倉區）出散關（今陝西省寶雞市陳倉區西南）的陳倉蜀道，再入河池（今陝西省鳳縣之西北）向陽平關（今陝西省勉縣西）進發。當其進入散關山的時候，這裏僅為秦嶺北麓餘脈，曹操已經感覺到這裏的山勢又險於太行山，是日晚上紮營之時，他又賦新詩，其中寫道：“晨上散關山，此道何其難！牛頓不起，車墮穀間。”
當張魯得知曹操大軍翻越秦嶺逼近陽平關的時候，當即表態舉漢中全郡投降。其弟張衛卻不同意，認為漢中地勢險固，陽平關又為雄關，定能將曹軍阻於關外，張魯於是派張衛率眾數萬人抵抗。
曹軍進抵陽平關，曹操登高觀察關前地勢，不由得倒吸了一口涼氣。他此前曾聽人介紹這裏的地勢，說陽平城下的南北兩山相距甚遠，因而可以極易攻破關隘。他現在卻見眼前連峰接崖，又山峻難登，那些依山勢構築起來的關隘和工事，既陡且峭，甚難攻打。