1644年夏季以後，河南的局勢也很複雜。大順政權原已遍設官員的這塊中原地區，已經由於主力西撤而四分五裂。大順軍隻控製著豫西等部分地區，其他地方一部分為死灰複燃的明朝官紳所竊據，一部分被所謂“土寨豪傑”的地頭蛇盤踞；清方也乘虛而入，攫取了河南省黃河以北的懷慶、彰德、衛輝三府。現簡述如下：
五月間，明歸德府知府桑開第得到大順軍戰敗放棄北京的消息，立即勾結原崇禎朝督師丁啟睿的弟弟丁啟光（任明朝參將）發動叛亂，逮捕大順政權歸德府管河同知、商丘、柘城、鹿邑、寧陵、考城、夏邑縣令，於六月間解送南京向弘光朝廷獻俘邀賞。[112]明河南援剿總兵許定國也糾集一批散兵遊勇竊據睢州一帶。原明朝兵部尚書張縉彥在北京投降了大順，這時逃回新鄉招集官紳、土寇，同許定國相勾結，與大順政權為敵。
河南各地的土賊也乘勢擁起，如劉洪起據汝寧，韓甲第據許州，李際遇據登封，李好據裕州，劉鉉據襄城，“分轄各數百裏，擁眾各十餘萬”[113]。這些人的來曆一般是明末地方性的反叛武裝，後來同當地鄉紳勾結，蛻變成一種封建割據勢力。其中劉洪起兵力較強，他接受明朝的招撫，1644年春夏在河南發動叛亂，擒殺大順政權委派的地方官員，被大順政權綿侯袁宗第擊敗，率領殘部逃入湖北，托庇於明將左良玉麾下。其他土賊由於實力有限，在崇禎末期往往在明朝廷和李自成農民軍之間搖擺，哪方得勢就倒向哪方。大順軍西撤後，他們當中不少人立即起來反叛，“憤張旗幟直書‘殺賊報仇’四字”[114]。僅韓甲第就“擒偽官十有餘人”，顛覆了許州一帶的大順政權，但河南大順軍隨即發起反擊，在九月間將韓甲第剿殺。劉洪起也卷土重來，領兵直至永寧、杞縣一帶，與開封府推官陳潛夫一道為明朝收複“失地”，並在柳園（開封城北）擊敗大順軍陳德部（陳德乃陳永福之子，原為明將，後來又投降清朝）。弘光朝廷得報後，委任陳潛夫為巡按禦史，劉洪起為總兵官。不久，又任命張縉彥為河南總督，越其傑為河南巡撫（越其傑是馬士英的姻親）。