忽必烈所確立的鎮守全國各地的鎮戍係統的軍隊，主要分為蒙古軍、探馬赤軍、漢軍和新附軍四種。
早期蒙古軍主要成員都是草原各部落蒙古人，後來，成吉思汗把對外戰爭中招降和擄掠來的哈刺魯、畏兀兒、唐兀、阿速、欽察、康裏、回回、阿兒渾族壯丁也編入蒙古軍隊中。
忽必烈建國之後，沿襲這一製度，統稱他們為蒙古軍。蒙古軍為元代的主要軍隊。
探馬赤軍，起初是木華黎經略中原時，從兀魯兀、忙兀、劄剌亦兒、弘吉剌、亦乞烈思五個蒙古部落中挑選一部分士兵組成的精銳部隊，在野戰和攻打城堡時擔當先鋒。“探馬”意即“先鋒”。
探馬赤軍原來是蒙古軍的一部分，後來，民族成分不斷擴大，也吸收色目人、女真人和北方漢人等，甚至還出現了純粹由畏兀兒人組成的探馬赤軍。
漢軍是由金朝降軍、北方漢族地主武裝、早期宋朝降軍和早期蒙古在中原地區征發的士兵為基礎，經過改編而成的軍隊。忽必烈十分注意對漢軍的整頓和編製，逐步訓練成為一支戰鬥力很強的隊伍。
新附軍主要是收編南宋降軍所組成的軍隊，在蒙古各軍之中，不太受重視。
如同四等人製劃分一樣，忽必烈尤其重視蒙古軍和探馬赤軍。他規定在京師附近的腹裏地區，主要由蒙古軍戍守；華北、陝西、四川、河南、山東等地主要由蒙古軍和探馬赤軍相參戍守；南方以蒙古軍、漢軍、新附軍駐戍，防禦重點是臨江沿淮地區。
忽必烈對新附軍不太信任，曾將其中部分編入其他軍隊，由蒙古人、色目人或漢人將領統領，將其一部分安排在邊陲之地從事屯田和工役造作等工作。
另外，忽必烈還建設一些帶有鄉兵性質的軍隊，如東北的高麗軍、女真軍、契丹軍、縱軍，雲南的寸白軍，福建的佘軍等。