《史記》記載，秦朝統一天下後，丞相王綰等人曾上書秦始皇：“諸侯剛剛被消滅，燕、齊、楚地區偏遠，如果不在那裏分封諸王，恐怕難以維護朝廷的統治，請立諸位皇子為王，讓他們為您戍守邊疆，永享太平。”
這其實就是延續周朝的做法。
秦始皇把這個意見交給群臣去討論，絕大部分人都認為王綰說得有理，唯獨李斯站起來反對。
李斯說：“當年周朝分封的子弟和同姓諸侯有很多，以為可以鞏固王室的統治，開始那幾代還算勉強可以，到後來就關係疏遠，相互攻擊有如冤家對頭，諸侯們成天打仗，連天子也無法製止。如今海內一統，原來的諸侯國都變成了郡縣，賞賜皇子和功臣由國家的稅收承擔，既方便又易於控製，天下百姓也斷絕了其他念頭。我鬥膽問一句，本來已經是形勢一片大好，為什麽還要分封諸侯，給自己添麻煩呢？”
李斯的話，正中秦始皇下懷。秦國此時正處於一個曆史的人字路口，向左走，是恢複封建製度；向右走，是中央集權的專製道路。秦始皇毫不猶豫地選擇了後者，他對群臣說：“天下人之所以飽嚐戰亂之苦，就是因為有那麽多諸侯存在。如今我們剛剛打出一個統一的國家，又要建立諸國，這是為戰爭埋下種子啊！用這種方法來尋求國家的安寧，難道不是南轅北轍嗎？李斯的意見是正確的，今後不用再提分封建國之事。”
有些人還是轉不過彎來：“那誰來為陛下管理那麽廣闊的土地呢？”
秦始皇說：“有郡縣。”
郡是春秋末年的產物，在戰國時期被逐漸推廣，成為各國中央政府以下的地方行政機構。
秦國最早設郡，均在邊遠地區，分別為西南地區的巴郡、蜀郡和北方的隴西郡、北地郡。在兼並的過程中，又不斷在新占領的土地上設郡。