範願等人把算卦的人找來一算，卜卦顯示請姓劉的人當首領吉利。
他們聽了，當下就一起到漳南縣，會見竇建德原將領劉雅，告訴他上述情況，並且請他出山。
劉雅說：“天下已經太平，我樂意在田園當農夫。起兵的事，不是我的心願。”
大家一聽他這話，頓時火了，真是給你臉不要臉！他們是殺人放火慣的人，當下殺掉劉雅走人。
範願又建議說：“漢東郡公劉黑闥果斷勇敢足智多謀，寬厚仁愛能夠容人，跟士卒們建立了深厚感情。我早就聽說姓劉的應當有人做王侯，如今要幹大事，想招集夏王的原班人馬，非這個人不可。”
大家聽了他的話，當下來到劉黑闥家裏，並說明意圖。
劉黑闥本就不是什麽安分的人，一聽作亂，頓時高興，當下備辦筵席招集眾人，領著一百多人起兵，突襲打下漳南縣城。
貝州刺史戴元詳、魏州刺史權威聯合兵力攻打劉黑闥，又被劉黑闥打敗，戴元祥和權威都死在陣地上。
劉黑闥繳獲了他們的全部武器裝備和剩下的一千多名士卒，隊伍頓振。
這時，高雅賢等老朋友老同事逐漸前來歸附，隊伍到了兩千人。
武德四年，公元621年七月，劉黑闥在漳南縣設置祭壇，祭奠竇建德，向他稟告造反報仇的心願，然後自稱大將軍。
淮安王李神通、將軍秦武通、王行敏先後討伐他，都被劉黑闥打敗。
這些消息很快傳到趙州、魏地，那裏的原竇建德的將士們紛紛殺掉官吏來響應。
劉黑闥到北邊聯合懷戎的叛軍首領高開道，軍隊的氣勢猛烈，進發到宗城時，有幾萬人。
黎州總管徐世績抵擋不了劉黑闥，當下丟下宗城，逃去守衛洺州。
劉黑闥繼續追擊，徐世績的五千名步兵，都死在陣地上。
他和秦武通隻是保住了自己的性命，趕緊逃命去了。