一直稱病在家休養的李善長，病愈後，被朱元璋派去主持修建臨濠（今安徽鳳陽）宮殿。臨濠是朱元璋的老家，出於對故鄉的情緣，朱元璋曾多次回臨濠考察。經過長達數十年的戰爭，臨濠一帶變得人煙稀少。這裏是很多反元領袖的故鄉，其中包括像徐達、湯和這樣的開國名將，所以臨濠對於大明朝來說意義非凡，朱元璋曾在洪武二年時因為皇室先世陵墓所在，把臨濠建為中都。因為人煙稀少，朱元璋不惜大動幹戈，從江南遷徙十四萬富民於臨濠，加之李善長在主持修建臨濠宮殿，於是治理新民的任務也落到了他頭上。可是這些新遷徙過來的富民並不好管理，他們在江南的時候個個過著豐衣足食的生活，在臨濠初來乍到，不但不習慣這裏的生活環境，對當地官府也抱怨連連。李善長雖說有智謀，善治理，但總有令他頭痛的時候。一些新遷徙過來的富民仗著自己財大氣粗，不把府衙中的小官吏放在眼裏，往往讓那些稱為官府的人吃閉門羹，時間一久，沒有人再願意去碰釘子。
不知情的朱元璋，以為臨濠有新民填充，中都應當恢複了繁華，可是傳來的消息卻是與之相反，這讓朱元璋十分不高興。於是他身邊的奸臣胡惟庸，又打起了壞心思，雖然他與李善長同流合汙，是栓在同一根繩子上的螞蚱，但是以胡惟庸的小人之心，但凡有利於他的事情，他可以六親不認，更何況對他隻是有提拔之恩的李善長。正所謂“一山不容二虎”，李善長回朝，直接影響著他一人之下萬人之上的地位，他心裏當然很不爽。借著這個管理新民無果的事情，胡惟庸旁敲側擊多次在朱元璋麵前提示李善長是因為年事已高，人老不中用了。不過讓胡惟庸失望的是朱元璋從不把胡惟庸說的這些話放在心上，李善長在他心中的地位穩穩的不能被動搖，胡惟庸心裏不服，但又無計可施，如果揭露李善長貪汙的話又擔心會把自己也供出來，想來想去，還是覺得見機行事的好。