在此之前，當地在鎮壓賊匪時，往往調用遠處的狼達土軍。從出兵到鎮壓完成往往一年有餘。而且在狼達土軍走了以後，賊匪很快又會出現。這樣一來，剿匪耗資巨大，而且從遠處調來的狼達土軍驕橫，難以管製，所以大多數時候都是得不償失。
因此，王陽明命令兵備官從各地挑選驍勇善戰之士，冠之以“鄉勇”之名，每縣多者十人，少者七八人。這樣一來，江西、福建兩省就各組成了五六百人的鄉勇隊伍；廣東、湖廣兩省各組成了四五百人的鄉勇隊伍，再從中選擇傑出優秀通曉兵略之士提拔為將官。選拔來的鄉勇平時跟隨兵備官駐屯訓練，沒事的時候堅守城寨，有事的時候機動出擊。