跟其他製度設置一樣，明朝的兵製也帶有元朝的痕跡。衛所的設置以及武官世襲和兵籍製度均屬之。元朝軍隊將領是世襲的，而且駐屯軍隊自行解決給養。這種體製是從草原部落封建製轉化來的，放在漢地實際上是不合適的，所以元朝的軍隊，在漢地的戰鬥力大大地退化了。但對於朱元璋來說，盡管已是強弩之末，元朝兵力之強還是給他留下了深刻印象。所以，他在製度上依然對元製抱有幻想，因此，明朝並沒有恢複宋朝之前的漢人王朝的兵製，而是對元朝兵製稍加改善，形成衛所製。其中，武官的世襲，雖然對軍隊的穩定有一定好處，但堵塞了優秀士兵的晉升，而屯墾性質的衛所最後事實上變成將領的世襲莊園，所以衛所製顯然也是一個不好的製度。然而，明朝初年的兵製，又不盡是對元朝的襲承。明朝不僅有兵部、有五軍都督府，還有具體政治操作中的文官治軍，以文壓武的原則，以及以內製外的體製。兵製上的雙重性，在實際軍事事務的運轉中，雖一時可得雙重好處，卻也日益暴露出難以克服的弊病。
1．明朝地方軍（包括邊防軍）製及其變遷
開始，衛與所隻是軍隊的編製，衛相當於元朝的萬戶，所相當於千戶。無論皇帝的親軍還是各地的駐軍，均以衛所編製。大體上衛下有千戶所，千戶所下有百戶所，百戶所下是總旗、小旗。衛所分駐各地，“度要害地，係一郡者設所，連郡者設衛，大率五千六百人為衛，千一百二十人為千戶所，百十有二人為百戶所，所設總旗二、小旗十”（《明史》卷90《兵誌二》）。遇有戰事，則抽調衛所士兵，組成軍隊，另行派任將領指揮。平時衛所將士駐紮在當地擔任守衛。直到今天，我們現在的地名中還有衛所的痕跡，比如有時人們還管天津叫“天津衛”，威海叫“威海衛”，山東還有個地方叫石臼所。