中平元年(184)二月，黃巾起義爆發， “旬日之間，天下響應，京師震動”。東漢最高統治集團慌了手腳，靈帝急忙下詔，命令州郡“修理攻守，簡練器械”,在各主要關隘之地置都尉把守，任命外戚、將作大匠、河南尹何進為大將軍， “率左右羽林五營士屯都亭，修理器械，以鎮京師”。同時召集群臣緊急會議，研究對策。靈帝聽從了北地太守皇甫嵩的意見解除黨禁，把國庫的錢和西園的廄馬發給軍隊。於是發天下精兵，博選將帥，以征討黃巾。當時黃巾主力主要集中在三個地區，一是冀州，由張角兄弟直接指揮；二是潁川，由波才等人指揮；三是南陽，由張曼成率領。靈帝任命尚書盧植為北中郎將，持節， “將北軍五校士，發天下諸郡兵”,征冀州張角；以皇甫嵩為左中郎將，持節， “與右中郎將朱俊，共發五校、三河騎士及募精勇，合四萬餘人，嵩、俊各統一軍，共討潁川黃巾”。就在這個時候，曹操三十歲，被正式授予軍職， “拜騎都尉”,討潁川黃巾。騎都尉是二千石的官，是曹操仕途上的一次重要晉升。據曆史記載，皇甫嵩、朱俊討潁川黃巾，出師不利，被波才領導的潁川黃巾軍打敗，包圍在孤城長社(今河南長葛東)之內；後來皇甫嵩用火攻，因夜縱燒，黃巾軍疏於戒備，亂了陣腳。這時曹操正好率兵趕到，遂與皇甫嵩、朱俊合兵共戰，大破潁川黃巾， “斬首數萬級”。
曹操參與鎮壓黃巾軍，因其立了功，得到了提拔，官至濟南相。
漢代實行郡國製，郡直屬中央，國是分封給諸侯王的領地。郡、國是同一級的地方最高行政區劃單位。後來，王國勢力被削弱，西漢景帝令“諸侯王不得複治國，天子為置吏”,諸王食祿而已， “令相治民，如郡太守”。因此諸侯王國中真正的統治者、實權人物就是由皇帝任命的國相。