中國曆史上，曆朝曆代的地方內亂常因外重內輕而起。這一點在西晉尤其嚴重。從製度上說，正是西晉實行的“藩王都督製”導致了那場“八王之亂”。
都督最初是作為監督軍隊的臨時官員而出現的。漢光武帝時期，由於戰爭頻繁，軍隊出征時暫時設置督軍禦史以監督諸軍，這就是都督製度的起源。由於東漢王朝是在豪強的輔助之下建立的，所以漢光武帝等一眾東漢皇帝都不敢對地方豪強給予過於強烈的打擊。於是，東漢時期地主豪強勢力極度膨脹，甚至可以對地方行政進行直接幹預。為了避免地方軍權為私人所用，東漢削減了郡國部隊。但地方基層的社會秩序又在很大程度上需要依靠地主土豪來維持，繼而產生了一係列的地主土豪武裝。
隨著東漢王朝日益腐敗，地方的農民起義越來越頻繁，豪強地主為了維護自己的利益，開始代替中央進行鎮壓。黃巾起義之後，漢靈帝將天下十三州在刺史基礎之上，又加派牧守，總理州中事務。由於長期以來東漢在各郡國範圍內都沒有設立正式軍隊，因此，這些空降而來的州牧，隻能依靠地主土豪的私人武裝平定各地的起義叛亂。這也使得地方土豪的私人武裝有了正式名分，成為國家所依賴的重要武裝力量。隨著董卓進入京師，各地軍閥四起，地主土豪的武裝力量就成為維護軍閥霸權的中堅力量。即便是後來統一北方的曹操，對待這些私人部曲也隻能是睜一隻眼閉一隻眼。這些統領土豪地主武裝的首領被稱作帳下都督或部曲督，而某些統帥一軍或一個軍區的主將則被稱為持節都督。
隨著戰爭規模擴大，一些實現局部統一的軍閥也被加封了這一頭銜，作為地方最高軍政領袖，比如袁紹就有都督冀﹑青﹑幽﹑並四州的榮譽。而曹操為了防禦西涼的馬騰，就在西線涼州地區以重臣鍾繇為司隸校尉，持節都督關中諸軍，駐守長安。曹丕繼位之後，又將多個州分為五個都督區﹐分別是曹真都督雍涼﹐曹仁都督荊﹑揚﹑益，曹休都督揚州，臧霸都督青州等。這些人各自負責一個方麵的軍事工作，都督所管轄的地區被稱為都督區。除此之外，孫權、劉備也各在其邊境建立都督區，我們耳熟能詳的江東美周郎周瑜，就是孫權帳下江東水陸軍都督。