張郃不僅武藝高強，而且很會帶兵打仗。他的主要職責是指揮一支五萬人左右的精銳部隊，作為魏國的戰略預備隊，在魏吳和魏蜀之間奔波，負責增援。
張郃是個讓劉備和諸葛亮非常頭疼的人物。
當初，劉備和曹操爭奪漢中，曹操降服張魯後，揮師而返，留張郃與夏侯淵鎮守漢中，抵擋劉備。張郃領兵收服了巴東和巴西兩郡，將兩郡百姓全部遷徙到漢中。古時候，人口就意味著兵源和稅收，一個武將有這樣的戰略眼光，非常難得。後來，劉備率萬餘精兵，分十部，借著夜色的掩護襲擊張郃，無功而返。
諸葛亮第一次北伐，與張郃相遇在街亭，張郃斷了馬謖的取水之道，並且大舉進擊，大破馬謖軍，直接導致諸葛亮第一次北伐的失敗。
這一戰，對蜀國的影響非常大。諸葛亮不僅失了街亭，進退失據，而且，第一次北伐，魏國防備不周，經此一役，魏國做了針對性防禦，諸葛亮北伐的難度大增，最終，“出師未捷身先死”。
張郃不僅富有謀略，而且料人如神，尤其對諸葛亮的作戰套路，摸得相當清楚。
諸葛亮二出祁山，猛攻陳倉。魏明帝曹叡急招張郃統兵，親自設下酒宴為張郃送行。曹叡派遣三萬士兵以及武衛、虎賁兩營的勇士護衛張郃，還問張郃：“等將軍到了前線，諸葛亮會不會已經占領了陳倉？”張郃知道諸葛亮孤軍深入，不會攜帶太多的糧草，不能久攻，就回答說：“估計臣還沒到前線諸葛亮就已經撤走了。臣屈指計算，諸葛亮的糧草支撐不了十天。”張郃晝夜行軍到達南鄭，果然，諸葛亮久攻不下，自行撤退了。
兵法有雲：“知己知彼，百戰不殆。”張郃對諸葛亮的作戰方式、作戰習慣、作戰部署非常了解，可以說，是少有的讓諸葛亮都非常忌憚的將領。