而此時這些未被收編的官軍降卒在梁山上已經住了些時日，也早已瞧到了梁山的好，倒是有大半人不願意走，便都留在了梁山。
梁山雖是不大，但也是五行八作一應俱全，這些官軍降卒或是打魚種地，或是做工做侍，倒是很快便極其自然地融入了梁山。
而經過重新整編的梁山兵馬共有五萬餘眾，便稱作綠林梁山軍團，由晁蓋親任軍團長，王倫任副軍團長，軍團之下設立四個師以及兩個獨立旅。
綠林梁山軍團第一師為親衛師，也就是晁蓋的直屬部隊，晁蓋自任師長，下轄兩個旅及四個團，由綠林總部精銳、歸降官軍以及原梁山軍團部分精銳組成，共計一萬人。
其中一旅為驍騎旅，抽調原彭玘所部陌刀軍精銳組成，驍騎旅日常行軍皆乘馬匹，而在作戰之時則即可做為騎兵進行馬上交鋒戰，亦可下馬組成陌刀陣步下作戰，下轄六個營，共三千人，由彭玘任旅長。
二旅為金槍旅，由大破鐵甲連環馬的鉤鐮槍手、撓鉤手、捆綁手組成，下轄六個營，共三千人，由徐寧任旅長。
親衛師一團是晁蓋的侍衛團，由綠林總部精銳組成，劉唐任團長；二團為刀盾團，由芒碭山綠林人馬組成，項充任團長；三團為槍盾團，由芒碭山綠林人馬組成，李兗任團長；四團為斥候團，由原梁山軍團先鋒營擴充組成，薛永任團長；親衛師四個團各下轄十個連一千人。
梁山軍團第二師為全員騎兵師，由新近上山的呼延灼任師長，下轄兩個旅及四個團，由歸降官軍騎兵以及梁山、綠林原有騎兵組成，共計一萬人。
第二師一旅為鐵甲連環旅，既原呼延灼所部的鐵甲連環馬軍，下轄六個營，共三千人，由呼延灼代任旅長；二旅為前鋒旅，即原韓濤所部輕騎以及部分歸降官軍騎兵，下轄六個營，共三千人，由韓濤任旅長。