蔡邕死後，百姓紛紛傳言王允要處決了董卓部下的所有涼州人，而那些原來是董卓部下的將領都感到驚恐不安，全都緊緊把持住軍隊，以求自保。他們還相互議論：“蔡邕隻因受過董卓的信任和厚待，都被牽連，何況我們還是董卓的部下和親信。現在王允不但沒有赦免我們，還要解散我們的軍隊。如果我們今天解散了軍隊，明天就會成為別人手裏任人宰割了。”
董卓死後，王允在如何安排和處理他的舊部時，反複無常，態度極不慎重，而這正是王允最後走向滅亡的最重要和最直接的原因。他先是想全部赦免董卓的部下，呂布也多次相勸，可繼而王允又對群臣解釋說：“本來，他們是沒有罪的，隻是身不由己，跟隨董卓，所以不得已聽從董卓差遣，犯了錯誤。現在如果給他們突然加上惡逆的罪名，而且特定赦免他們，恐怕反而使他們猜疑恐懼，心理承受不了，所以，赦免他們無罪不是使他們安心的上上之策，還不如讓他們承受懲罰。”呂布又想把董卓的財物賞賜公卿、將校，王允又不準。王允平日卻看不起呂布，以劍客對待他。呂布也認為自己有功勞，自吹自擂，既不得意，漸漸與王允不和了。
涼州百姓聽到王允想解散涼州兵的風聲後，便到處傳言，說王允要殺掉所有涼州人，一時之間，整個涼州人心惶惶，一片驚慌。涼州兵將領本來就成了驚弓之鳥，對自己的前途深感憂慮，當他們得知王允要削奪他們的軍權，解散涼州兵的消息後，更是驚慌。絕望的涼州兵尋思：反正是一死，不如死個痛快。於是他們迅速召集軍隊，嚴陣以待，準備見機起事，並且互相傳告：蔡邕隻不過受了董卓的一點厚遇而已，王允便不分青紅皂白地把他殺了。對於我們，不僅沒有絲毫赦免的意思，反而想剝奪我們的兵權，置我們於死地。我們除了聯合起來，別無選擇。