明王朝建立，經過十幾年的精心治理，國家終於走上正軌，但太祖朱元璋並沒有安下心來。他的多疑令他無法盡信江山能夠穩守，時恐有謀臣造反，他相信隻有皇權絕對獨立，能夠控製整個國家生殺之事，才能保證明王朝延續千秋萬代。因此而成為犧牲品的明朝將相不在少數，其中宰相胡惟庸算是最大的犧牲品。
朱元璋為何大張旗鼓地製造胡惟庸案，至今都是一個謎，沒有人能夠解開它的真相，很多事情都是後人的分析與猜測。
關於胡惟庸獲罪的原因，曆史上有兩種說法：
一說是胡惟庸位高權重，心生他意，同倭寇與舊元餘黨勾結，意圖弑君，結果事情敗露；
另一種說法是胡惟庸引朱元璋來家裏觀看醴泉，這原本被認為是天賜的祥瑞之事，所以朱元璋欣然前往，結果在路上被一個宦官攔住，訴說胡惟庸謀反的陰謀。
這兩種說法都疑點重重，但真實情況已無從考證。不過，胡惟庸謀反一事，確實讓許多人受到牽連。開始是他的家人，被誅了三族，與同謀及告發者一並斬首。隨後朱元璋借此“東風”，一舉撤銷中書省，不再設丞相。隨後又追查了依附胡惟庸的官員和六部官屬。結果，此案遷延十餘年，大小官員被處死者多達三萬餘人，朝野震動。
錢穆在《中國曆代政治得失》一書中講道：自古以來，中國的皇權和相權是劃分開的，即使兩種權力的比重不同，相權對皇權也有一定的製約，並不是皇帝一人專製。而朝政真正由一個皇帝來獨裁，則是在明清兩代，始作俑者，就是這位明太祖朱元璋。他廢止宰相一職，並嚴格規定子孫們永遠不準再立宰相，殊不知世上的事情是沒有永遠的。從明朝中後期的發展來看，皇帝們總是濫用手裏的權力，為所欲為，最終沒能守住祖宗的這份基業，在朱元璋這裏也許能夠找到根由。