當塗是徽州極為有曆史地位一的縣城，隋開皇九年，省丹陽郡置蔣州；廢淮南郡，並襄垣、於湖、繁昌及西鄉四縣更置當塗，徙縣治姑孰，屬蔣州，自是姑孰之當塗縣始定；又並僑置當塗、浚遒等縣置宣城縣，屬宣州。十一年，廢丹陽縣，以其地及溧陽縣一部置溧水縣，隸蔣州。大業三年，複改蔣州為丹陽郡，轄當塗、江寧、溧水三縣。
唐武德元年，當塗縣改屬宣州。三年，複丹陽縣，屬揚州。貞觀元年，設江南道，宣州屬之；後又廢丹陽縣，以其地入當塗，為屬鎮。開元二十一年，江南道分設東、西兩道，宣州屬江南西道。乾元元年，割宣州之當塗縣屬升州。上元二年，複歸宣州。大順元年，合宣、歙兩州為寧國軍，當塗改屬升州。天佑四年，割當塗縣南境五鄉、宣城西境兩鄉立蕪湖縣，隸宣州。
五代吳武義二年，改升州為江寧府，領十縣，當塗縣屬之。南唐升元元年，改當塗縣為建平軍，保大末年又改作雄遠軍。
宋開寶八年，改雄遠軍為平南軍。太平興國二年，升平南軍為太平州，立當塗為附郭，隸建康府路。三年，割宣州之蕪湖、繁昌二縣屬太平州。至道間，改屬江南路。天聖八年，分江南路為東、西二路，屬江南東路。南宋時州縣如故。
元至元十四年，改太平州為太平路，隸江浙行中書省，縣如故。元貞元年，太平路隸江東建康道。至正十五年，朱元璋自采石渡江取太平路，改路為府。
明洪武四年，以太平府直隸京師。永樂十八年，改京師為南京，稱南直隸，府縣隸屬如故。
清順治二年，改南直隸為江南省，設江南布政使司，太平府屬之。十八年，分設江南左、右布政使司，左布政使司治江寧，太平府屬之。康熙六年，分江南省為江蘇、安徽二省，改江南左布政使司為安徽布政使司，仍治江寧，太平府屬之。乾隆二十五年，安徽布政使司移治安慶，府縣均未變。