湘淮軍之所以能夠興起，最終打敗太平軍，其關鍵因素在於它們的制度優勢。事實上，若以數量計，太平天國的軍隊，在數量上比湘淮軍要多得多。1864年在天京（南京）城下太平軍和湘軍的一場決戰，太平軍多至百萬，而湘軍不過20多萬，然而結果卻是太平軍大敗。湘淮軍的編制，人稱勇營制度，這是一種借鑑明代戚繼光的戚家軍模式組建起來的新軍。這種軍隊雖然在形式上並不新，但由於引入了洋槍洋炮，淮軍還引進了洋操，也有很大的改變。而中國的現代海軍，是洋務運動的產物，是從武器裝備到訓練到編制規程都模仿西方的現代化軍隊，至少在制度上，已經看不出中國特色。
不過，需要特別指出的是，雖然舊的國家軍隊八旗和綠營已經不中用了，晚清大多數時間基本上是湘淮軍在維持，但舊制軍隊卻依然保留。所以，晚清的國家軍隊制度，實際上是一個雜亂的混合體。
1．勇營制度
勇營成軍的基本原則是“將必親選，兵必自募”。曾國藩在組織湘軍的時候，利用自己的門生網絡，在最偏僻的鄉村招募士兵。招兵原則跟戚繼光一樣，城市的市井之徒不要，兵痞不要，只招那些老實巴交的農民，而且這些農民往往跟招募他們的人有鄉誼和親緣關係。他的門生招到多少人，則組成多少人的單位，夠一營則一營，夠一哨則一哨，誰招的兵則誰當長官。在當時，形成了一支人稱“書生帶鄉農”的軍隊。李鴻章的淮軍書生味要淡一些，但基本原則跟湘軍大體一致。這樣的軍隊每個單位的士兵只認得長官一人，唯自己長官馬首是瞻，一旦長官戰死，則整個單位的編制取消。而每個單位的長官又只服從他的直接長官，最後大家服從部隊首長一人。整個湘軍每個單位以親緣和地緣爲紐帶，以長官爲中心，榮辱與共，生死相關，因此凝聚力很強。這種軍隊，跟兵爲國有、兵將不相知的八旗綠營有本質區別，實際上就是中國歷史上出現過多次的私兵體制。好一點的像宋朝的岳家軍、韓家軍，明朝的戚家軍，不好的像唐朝的藩鎮。雖然有弊有利，但有一點是可以肯定的，就是在非常時期，這種私兵比較能打仗，在白刃相交的冷兵器時代尤其如此（與太平天國的戰爭，應該是冷熱兵器的交替時期）。
湘軍的編制，以營爲基本單位。每營500餘人，營有營官1人，每營由前後左右4哨組成，每哨100餘人，哨有哨官1人，哨長1人。每哨由八隊組成，每隊12人左右，隊有什長、夥勇各一。每營有親兵六隊，由營官直接管帶。另外每營還配備伕役180餘人。湘軍的現代化程度不高，部2隊的裝備刀矛和舊式擡槍、新式洋槍混合使用。營有劈山炮，但由親兵隊掌握。湘軍騎兵的編制與步兵稍有不同，每營有前後左右中5哨，每哨有5棚，棚相當於步兵的隊。這樣的軍隊編制，一個最大好處就是，一旦採用西式武器，比較匹配。因爲它跟西方軍隊的班、排、連、營的建制大體相當。淮軍編制與湘軍基本相同，但由於淮軍地處江浙一帶，得風氣之先，又接收了華爾洋槍隊，所以很快就用洋槍洋炮裝備起來，而且請洋人教練，實行洋操，因而現代化程度大大超過湘軍，戰鬥力也大大提高。左宗棠領導的左系湘軍，也因爲接管了常捷軍的洋槍隊而迅速現代化。
湘淮軍一度在後來的戰爭歷史上發揮了很大作用，至少晚清的內亂，基本上都是他們平定的。左系湘軍甚至還遠征新疆，討平阿古柏叛亂，幫助清政府通過外交手段收回伊犁。但應該指出的是，湘淮軍從本質上講，還不是西式軍隊。正如羅爾綱所總結的，湘淮軍以營爲基礎，營以下的建制跟西方軍隊還有幾分相似，但營到軍隊的統領（司令）沒有任何中間層次。這樣的狀況，很不利於大的戰役的展開，當營的長官被提升爲統領時，由於沒有中間環節的鍛鍊，一般都不適應。況且，湘軍大部分將領，對於新式武器往往不甚熱心，更談不上制度變革。淮軍雖然很早就採用了西式操練，但一直練兵不練官。（參見羅爾綱：《晚清兵志》，第一卷，北京，中華書局，1997。）同時，朝廷爲了鼓勵湘淮軍作戰，在鎮壓太平天國以及後來的捻軍等國內叛亂過程中，濫加官銜以資獎勵，所以軍中軍官士兵，因功而升官者甚衆，官銜爲提督和總兵者比比皆是。由於國家武職官職有限，所以大多數人都不能得到實缺，所以有提督銜的往往只是一個千總或者把總，這樣的軍隊，指揮起來顯然有麻煩。關鍵是在湘淮軍的層次，中國依然沒有形成西式軍事分類式編制，更沒有形成軍官團及其精神，湘淮軍在起初的那點來自於鄉土的銳氣，加上士大夫智慧一度雖然可以壓倒太平天國農民，但成軍一久，過去軍隊的陋習就又感染了這支“新軍”。到了甲午戰前，雖然武器裝備更新了多次，但湘淮軍差不多都喪失了銳氣，變得暮氣沉沉。
2．海軍制度
晚清海軍是中國現代化過程的明珠，是中國最先進的兵種。原本晚清擬建的海軍有三支艦隊。福建海軍成軍最早，但早在1884年即毀於中法戰爭。南洋海軍一直就沒有成氣候，所以，真正意義上的現代海軍，只有北洋一支。北洋海軍到甲午戰爭前，共有軍艦28艘。其中定遠和鎮遠兩艘裝甲鉅艦，排水量73 000多噸，裝備有305毫米口徑的巨炮，裝甲之厚足以抵擋那個時代任何大炮的轟擊，總排水量4萬噸（參見姜鳴：《龍旗飄揚的艦隊——中國近代海軍興衰史》，128～129、278頁，北京，三聯書店，2002。），在亞洲居第一位。北洋海軍的組成人員，也集中了當年留學英國的大多數人才，加上中國自己海軍學校的畢業生，是當時中國西化程度最高的一支軍隊。
展現中國海軍制度面貌的《北洋海軍章程》，基本上是參照英國海軍擬訂的，在當時，是中國最西方化的軍隊制度模本。學習的眼光和目標，都相當遠大，甚至比當時的日本還要走得遠一點，北洋海軍大體上就是按照這個章程組建的。
海軍制度分爲軍官和士兵兩個系列。軍官分爲戰官和藝官，戰官指指揮戰鬥的軍事指揮員，分爲管帶（艦長）、大副、二副、三副；藝官是指軍艦上的技術軍官，即各艦的管輪官。原來綠營的軍官職銜，如提督、總兵、副將、參將直至外委的頭銜還保留，但其意義更類似於西方的軍銜，只有提督和左右兩翼總兵纔有具體的職務上的意義，相當於艦隊司令和副司令。值得一提的是，海軍章程還規定，海軍軍官一律由海軍學校畢業生擔任，是近代中國第一個有學歷要求的軍隊制度。
士兵分爲水手、炮目和當差兵匠三種，還有預備兵練勇。練勇、水手和炮目各分三等，依次遞升。三等水手由一等練勇升任，三等炮目由一等水手升任。兵匠是技術兵種，非經過專門學習不能充任。在士兵和軍官之間，還設置了弁目，即西方的軍士，凡水手長和炮弁都是這個級別。
新建的海軍裝備不可謂不先進，制度不可謂不完備，但這支中國最先進、最豪華的軍隊，還是不可避免地走向衰敗。更可悲的是，從國外留學歸來的海軍將領，也逐漸沾染上了舊軍隊的陋習，有章不遵，有令不行。軍隊的訓練，在跟原來的英國總教習琅威理鬧翻之後，日益流於形式，變成了好看、不中用的“花架子”。在甲午戰爭前，日本間諜發現中國艦艇上的水兵，居然在大炮上晾衣服。所以他們在報告中，認爲中日如果開戰，中國必敗。小說.中國政治制度史導論（第2版）