當時的西域都護府的轄境包括自玉門關、陽關以西的天山南北,直到如今的巴爾喀什湖、費爾幹納盆地和帕米爾高原以內的範圍,初期有三十六國,以後增加到大約五十國,治所設在烏壘城。
西域都護府既是漢朝的軍事駐防區,也是一個特殊的行政區。一方麵它與內地的正式政區不同,不設置郡、縣,依然保留原來的國,漢朝一般不幹預它們的內部事務,但掌握它們的兵力和人口等基本狀況;另一方麵,都護代表朝廷掌管這些國家的外交和軍事權,可以調動它們的軍隊,決定它們的對外政策,必要時還可直接廢立他們的君主,甚至取消某一個屬國。正因為如此,西域都護府也是漢朝疆域的一部分。
西域都護的設置,使西域正式劃入了漢朝版圖,因此也可以說這是一個具有重大曆史意義的事件。
隻是到了安帝永初元年(公元107年),西域多國發生戰亂,西域都護段禧等人雖然力保龜茲,但由於而道路遙遠,中間又多有阻隔,因此朝廷與都護府的檄書不通。朝中公卿議者以為“西域阻遠,數有背叛,吏士屯田,其費無已。”因此到了六月,朝廷決定罷西域都護,遣騎都尉王弘發關中兵迎接當時的西域都護段禧以及分布在梁、趙博、伊吾盧、柳中等地的屯田吏士離開西域,返回了大漢的涼州之地。
從此以後,大漢便不在西域設置都護府,經過了十幾年之後,由於西域各國的要求,並願意遣子入朝為質,東漢朝廷於是在於永寧元年,曾經就是否放棄大漢對西域的統轄權進行過庭議,當時東漢在西域已經沒有了管理機構和駐軍、屯民。於是朝中便有人建議皇上徹底放棄西域,而班固之子班勇卻極力反對,強調西域對大漢朝的重要性,並且建議朝廷在敦煌和樓蘭等地恢複駐軍。
經過朝堂上一班大臣的爭吵之後,主張繼續對西域諸國進行管轄的一派占了上風,而且朝廷也采納了班勇的建議,決定在敦煌駐軍三百人,這就是史載的“於是從勇議,複敦煌郡營兵三百人,置西域副校尉居敦煌”。到了延光二年(公元123年),朝廷決定在西域建立西域長史府,以班勇為西域長史,複平西域,遂以長史行都護之職,秩比二千石。