當時的蒙古軍隊被稱之為“鐵蹄旋風”,聲威遠播，他們攻城略地，所向披靡，且凶猛狠辣。故此，兵鋒所指令人膽寒、談之色變。蒙古軍隊何以有如此赫赫雄威，這與他們的軍事製度及蒙古人能征善戰是分不開的。
忽必烈建國以後，為保持強大國力，尤其注意軍事建設，他總結以前的軍事經驗，改革了成吉思汗以來的軍政合一製度，實行軍民分治，使軍職不得幹預民政，確立了當時世界上無與倫比的軍事製度。
忽必烈日常確立的軍事製度，主要分為宿衛軍和鎮戍軍兩大係統。
宿衛軍係統的主要職責是守衛京師，戰時出征。忽必烈建立的宿衛軍隊由怯薛軍和侍衛親軍兩部分構成。
怯薛軍是成吉思汗建立大蒙古國時期由稱為那可兒(夥伴)的親兵組成的侍衛部隊，當時確立編製為人員為一萬人，其中宿衛一千人、箭筒士一千名、散班八千名。其成員皆為蒙古各千戶征召的精銳之士和貴族子弟，主要職責是護衛大汗、宮廷服役和參預軍政事務的管理。
他們平時分四班輪流護衛大汗營帳，戰時隨大汗出征，作為軍隊中堅力量，專打硬仗，是大汗手中掌握一支可以左右戰局的強大武裝。
忽必烈即位以後，保留了怯薛建製，但其原來掌管的軍政領導事務，皆移交給了新設的中書省和樞密院等機構，怯薛軍僅僅成了負責保障皇帝安全、掌管宮城和皇室大帳防衛以及護駕出征、宮廷服役等。
忽必烈時期，怯薛軍常額在一萬人以上，最多時達到十五萬人。
隨著政權的日益鞏固，大汗出征的次數越來越少，怯薛軍的主要職責就成了列值禁庭以充護衛侍從了。但他們憑借皇帝近侍的身份，也常常幹預政治，並獲得優先選拔為高級軍政官員的特權。
為了保證皇帝的安全，忽必烈規定，怯薛軍由皇帝或親信大臣直接節製，他人不得幹預。