公元1344年，朱元璋離開皇覺寺，開始了三年多的雲遊生涯。他一路向南，先到合肥，再的向西，到了河南的固始、信陽，又北上汝州、陳州，轉向東，經鹿邑回到安徽，到了亳州和潁州。一路上風餐露宿，有人家處便沿門托缽，討些糧財，身心都受到了磨練。真是天將降大任於斯人也，必先苦其心誌，勞其筋骨，餓其體膚，空乏其身。行拂亂其所為，所以動心忍性，增益其所不能。這時朱元璋已經不是一個世事不更的莽撞少年了。在遊曆當中，他了解了世態炎涼，熟悉了風土人情。他遊跡的主要區域在淮西，這是他未來軍事生涯起步的地方，對他以後的行軍作戰大有益處。他看到了貧民們流離失所，廣大農民艱難困苦，而元朝政府和各級統治者卻仍舊無情的壓迫百姓。他也接觸了明教和彌勒教在民間傳播的情況，感受到了大眾鬱積的不滿和憤怒。他開始思考，在如此蕩的社會中，他將怎樣被影響，將會成為什麽樣的角色？他自己和整個社會的前景又在哪裏？難道他就這樣一輩子隻做這麽一個小行童嗎？不，他絕對不會允許自己就這樣平庸的過一生的。在1348年底朱元璋回到了皇覺寺，他已經決定不再過做一天和尚撞一天鍾的生活了，他要在將要來臨的時代大潮當中謀求自己的未來。他開始有意識的訓練自己，童年時，他曾經在村裏蒙學學過一些字，現在他迫切地知書識禮才能有見高識遠，才能使頭腦清醒。他想盡了一切辦法多讀書，多識字；同時下功夫結交有見識的，有作為的一些好漢，互相激勵，此時，朦朧的雄心大誌已經在小小年紀的朱元璋心裏開始發芽。
在至正三年和四年，黃河決口，衝淹了大片的農田，元朝政府主要稅收渠道之一的鹽場也受到了威脅，元首相脫脫就決定召集民工重修河堤，將黃河勒回河道。在公元1351年的四月，脫脫任命賈魯為工部尚書兼河防使，召集汴梁大名民夫十五萬，廬州等地的軍隊二萬，開始治理黃河的工程。當時河南各地遍布著零星的起義軍，明教教主韓山童認為現在時機已經到了，準備大舉起義。便派人到處散布童謠：“休道石人一隻眼，挑動黃河天下反。”暗裏派人雕刻了獨眼的石像，投進了黃河黃陵崗開挖處。同時密遣幾百個教徒充當民夫，宣揚天下大亂，明王現在已經出世，就要拯救萬民於水火之中了。一時間，消息傳遍了河南和江淮一帶，民間無不沸騰。不久，獨眼石人果然被人挖了出來，一時間群民無不震動，相信老天爺終於開了眼了，要反掉元朝的天下了。韓山童又聽從了親信劉福通的意見，打出了複宋的旗號，爭取漢人知識分子和官吏的參與。在河南廣平府永年縣白鹿莊，韓山童召集三千人，祭天告地，稱自己為宋徽宗第八代孫，將要恢複漢人的天下，為中國主。他們預定了時日，準備各處一齊起兵，然而不幸的是消息走漏，韓山童被元朝所擒獲並且被殘忍的殺害。劉福通就率領一部分部眾突出了重圍，眼看事情已經敗露了，索性就提前起義了，一路攻占了潁州和羅山、上蔡、真陽、確山。黃陵崗的民夫們得知了這個消息之後，立即起事，並和劉福通匯合在一起。這支頭裹紅巾的起義軍聲勢很快就壯大了，攻克了汝光和息等地，占領了米禽朱臬，開他散糧。一時間附近的貧苦百姨們紛紛投奔，短時間內義軍就發展到了幾十萬人。