公元前221年（秦始皇二十六年），秦始皇決定對國家全麵施行郡縣製行政管理，在全國範圍內確立了郡縣製度。最初，分天下為36郡，以後，隨著邊境的開發和郡製的調整，總郡數最多時曾達到46郡。郡設郡守，郡守之下有郡丞、郡尉、監察史等。郡下設縣，萬戶人口以上為大縣，設縣令；萬戶以下為小縣，設縣長。縣令或縣長之下又設縣丞和縣尉，也與上級政權一脈相承。縣以下以鄉、亭、裏為單位。十裏為一亭，十亭為一鄉。並設各級官員加以管理。
郡縣製並非秦始皇所開創，隻是到了秦始皇統一全國時，才實現了它的係統化和規範化，才成為整個國家法定的行政製度，所以才稱秦始皇推行郡縣製。其實，早在春秋時期，縣製管理便已在一些諸侯國家中萌生了。秦國在統一全國前早已開始在國內設縣，並從前公元324年秦攻楚漢中地六百裏置漢中郡開始，創立並逐漸采用了郡製，到本年統一六國為止，秦國已先後設置了巴郡、隴西郡、北地郡、蜀郡、南郡、九江郡、齊郡等十幾個郡。縣製之後又設郡製，使從中央到地方的統治又多了一個層次，中央集權就更加鞏固了。