胡惟庸升右丞相這一年是洪武六年（1373年），在他仕途得意的時候，有一個人對此很不滿，他就是大將軍徐達。徐達一生剛毅武勇、持重有謀、紀律嚴明、屢統大軍、轉戰南北、功高不矜。他對胡惟庸做右丞相不滿，不是因為嫉妒，而是對胡惟庸個人的行為不滿，特別見劉基被胡惟庸整的很慘後，徐達就更加對胡惟庸這個人反感。
隨著權勢的不斷增大，胡惟庸日益驕橫跋扈，並且十分心狠手辣，文武百官都很害怕他。私下，胡惟庸給文武百官規定，上朝之前他們所要呈給朱元璋的奏折必須先經過他的閱讀，如果有對他不利的，他就不準奏折上報或者幹脆直接殺了這位官員。如此一來，沒有人敢說胡惟庸的不是，大家都是敢怒不敢言。
這文武百官中有一個名叫吳伯宗的人，他洪武四年時廷試第一，成為明朝開科狀元。朱元璋欣賞他的才華，授之禮部員外郎一職，參與修《大明日曆》。這吳伯宗生性耿直，一直不服胡惟庸管治，隻是他官小，無法與堂堂的一品丞相抗衡。曾經，吳伯宗去刑部尚書吳雲府上拜會吳雲，想借機聯合吳雲一起上書彈劾胡惟庸。可是吳伯宗不知道，這吳雲是李善長與胡惟庸的心腹，等吳伯宗剛離開，他就迫不及待的找胡惟庸說了此事。胡惟庸聽後大怒，傳喚吳伯宗來右丞相府見他。
見麵後，胡惟庸問吳伯宗，“你對本丞相有不滿？”
吳伯宗開始不敢承認，直到躲在後麵的吳雲被胡惟庸叫到跟前，有人對質，吳伯宗隻好承認，不過接著他就指著吳雲質問，“尚書大人，你為什麽要出賣我？”
吳雲冷笑道，“禮部員外郎，這恐怕要怪你吧？你可能還沒有搞清楚我與丞相大人之間的關係，才會跑來讓我一起彈劾丞相大人。”
“你們……”吳伯宗傻了眼，但見胡惟庸與吳雲得意的樣子，他橫了心，反正走到這種地步，逃是不可能了。