玄宗既銳意開邊，除了在作戰過程中，實行重賞重罰的辦法鼓勵士卒，還從思想意識上鼓勵尚武精神。
如開元十九年(731)三月，初令兩京諸州各置太公廟，選古名將齊大司馬田禳苴、吳將軍孫武、魏西河太守吳起、燕昌國君樂毅、秦武安君白起、漢淮陰侯韓信、蜀丞相諸葛亮、唐初尚書右仆射衛國公李靖和司空英國公李劫稱為十哲，命令二月、八月上戊致祭，其辦法與祭孔子同。
除采行上述諸辦法外，玄宗主要是廢府兵，改礦騎，增設節度使，並擴大其權力，從軍事製度上進行多方麵的變革。
府兵製是承襲西魏、北周、隋而來，是兵農合一的軍事製度。凡充當府兵的，須終身服兵役，由折衝都尉統率，定期宿衛京師，戍守邊境，需自備資糧，其優待條件是可免租庸，故國家養兵而無龐大的軍費負擔。
唐初以行府兵而興，這是大家所熟知的。有意思的是，唐至鼎盛階段，府兵製反而遭到徹底破壞，其稱之為募兵製(礦騎、長征健兒)和節度使的確立，時間約在睿宗景雲年間至玄宗開元九年前，這主要是當時唐邊境軍事形勢變化的必然結果。
從高宗開始，唐的邊防線越拉越長。在東北的安東要駐重兵對付高麗；後來在河北道營州及幽州駐大軍對付奚、契丹。
在西陲，為了對付突厥和吐蕃，防區延伸更長、更深，從與河北道相銜接的河東道起，由東往西，布有河東、朔方、河西、隴右、安西、北庭諸鎮，西南則伸至劍南。
在這東西綿延數萬裏的防線上，所需戍卒大為增加。事實上，戰事緊張時，邊境往往還需大量增兵；同時戰爭長期不斷，傷亡不小，也需要大量補充、更替。而唐初全國所有府兵不過六十萬左右，其中至少需有十餘萬宿衛關中京師，所以原來的府兵員額已遠遠不能滿足邊陲戰爭的需要了。