湘淮軍之所以能夠興起，最終打敗太平軍，其關鍵因素在於它們的製度優勢。事實上，若以數量計，太平天國的軍隊，在數量上比湘淮軍要多得多。1864年在天京（南京）城下太平軍和湘軍的一場決戰，太平軍多至百萬，而湘軍不過20多萬，然而結果卻是太平軍大敗。湘淮軍的編製，人稱勇營製度，這是一種借鑒明代戚繼光的戚家軍模式組建起來的新軍。這種軍隊雖然在形式上並不新，但由於引入了洋槍洋炮，淮軍還引進了洋操，也有很大的改變。而中國的現代海軍，是洋務運動的產物，是從武器裝備到訓練到編製規程都模仿西方的現代化軍隊，至少在製度上，已經看不出中國特色。
不過，需要特別指出的是，雖然舊的國家軍隊八旗和綠營已經不中用了，晚清大多數時間基本上是湘淮軍在維持，但舊製軍隊卻依然保留。所以，晚清的國家軍隊製度，實際上是一個雜亂的混合體。
1．勇營製度
勇營成軍的基本原則是“將必親選，兵必自募”。曾國藩在組織湘軍的時候，利用自己的門生網絡，在最偏僻的鄉村招募士兵。招兵原則跟戚繼光一樣，城市的市井之徒不要，兵痞不要，隻招那些老實巴交的農民，而且這些農民往往跟招募他們的人有鄉誼和親緣關係。他的門生招到多少人，則組成多少人的單位，夠一營則一營，夠一哨則一哨，誰招的兵則誰當長官。在當時，形成了一支人稱“書生帶鄉農”的軍隊。李鴻章的淮軍書生味要淡一些，但基本原則跟湘軍大體一致。這樣的軍隊每個單位的士兵隻認得長官一人，唯自己長官馬首是瞻，一旦長官戰死，則整個單位的編製取消。而每個單位的長官又隻服從他的直接長官，最後大家服從部隊首長一人。整個湘軍每個單位以親緣和地緣為紐帶，以長官為中心，榮辱與共，生死相關，因此凝聚力很強。這種軍隊，跟兵為國有、兵將不相知的八旗綠營有本質區別，實際上就是中國曆史上出現過多次的私兵體製。好一點的像宋朝的嶽家軍、韓家軍，明朝的戚家軍，不好的像唐朝的藩鎮。雖然有弊有利，但有一點是可以肯定的，就是在非常時期，這種私兵比較能打仗，在白刃相交的冷兵器時代尤其如此（與太平天國的戰爭，應該是冷熱兵器的交替時期）。