對於這位國王來說，軍隊是耗費他最多心思的地方。他繼承了一支3萬到4萬人的常備軍，到他統治後期，這一數字上升到9萬，其中實戰兵力達7萬。普魯士人口數量位列歐洲第12，兵力位列第4，從軍費開支就可以知道維持這樣的兵力會有多大的壓力。在普魯士每年700多萬塔勒（德意誌貨幣單位）的財政收入中，軍費開支就占了500萬。因此，除了軍隊係統之外，還需要整個財政和行政部門來提供所需的資源。腓特烈·威廉一世夢寐以求的經濟發展，此刻在軍需的帶動下得到了極大的提升，如今的普魯士變成了一台機器，主要的功能就是生產士兵、軍官及其裝備。
而軍隊的組織、財政、管理和訓練都由他親自監督，從最廣泛的兵役原則到雞毛蒜皮的小事，巨細無遺。在“徳紹老頭”利奧波德一世的幫助下，他整理出了一本兵書，並且完成了幾項技術改良，比如彈藥填充杆和新刺刀，比如步兵炮兵嚴明的紀律，比如食物供應和運輸，而這些改進，在一位天才的指揮官的領導下，將會使全世界為之震驚。排兵布陣上的完善要歸功於持續不斷的平亂行動以及充滿體罰和羞辱的軍規。在1733年以前，軍隊裏的誌願兵和義務兵各有一半，自1733年起，嚴格的區域征兵製度開始施行，國家要求各軍區根據當地人口提供兵員，這為1814年普遍義務兵役製打下了基礎。
而在腓特烈·威廉一世在位期間，多個階級得以免除兵役，軍隊主要由農民組成，軍官則多是貴族，但整個18世紀還是有很多人通過誌願入伍參加了軍隊。維持農業和農業人口因此成為主要的任務。莊園封建經濟製度如今成了普魯士軍隊征兵體製的基礎。在莊園封建經濟製度下，佃農和農奴離不開土地，勞動力因此任由國王和容克貴族這些莊園主驅使，並且產生了階級，而農民們在這樣的階級社會和社會習慣的影響下，也習慣了服從他們的權威。因此，若要在這種農耕經濟中進行改革就會影響到整個軍事機器乃至整個政府的運行。那些毫無權利、被剝削的農奴對土地的依賴，以及容克貴族的地位，都是普魯士不可或缺的一部分。