晉、南北朝，為中國兵力衰微之世，其所由然，蓋以取之、教之者，皆不得其宜也。民兵之製，雖自東漢來已廢，然調發之製仍存。故《晉書·段灼傳》：灼言晉人可差簡丁強，如法調取，羌、胡非恩意告諭不可。
然調發人民時甚少，自三國至南北朝，皆別有所謂軍戶者。軍戶放免，其事甚難，《宋書·孝武帝紀》：大明二年，正月，韶先帝龍飛荊楚，奉迎文武、吏身，可賜爵一級，軍戶免為平民，此乃特典。帛氐奴之亂，劉道濟免吳兵三十六營為平民；竟陵王誕之叛，孝武帝使垣閬襲之，誕焚兵籍，使壯士率之出擊：亦危迫之際，非常之措施也。
而其困辱殊甚。《晉書·趙至傳》：緱氏令初到官，至年十三，與母同觀。母曰：“汝先世本非微賤，世亂流離，遂為士伍耳。爾後能如此不？”至感母言，詣師受業。蓋軍戶之困辱久矣。服役率取長上。長上之名，不始唐代。《通鑒》：晉安帝隆安二年，慕容寶長上段速骨，宋赤眉等作亂。《注》雲：“凡衛兵皆更番迭上，長上者，不番代也。唐官製，懷化執戟長上，歸德執戟長上，皆武散階，長上之官尚矣。”
案《宋書·張茂度傳》：子永，以世祖孝建二年，入為尚書左丞。時將士休假，年開三番，紛紜道路。永建議：交代之限，以一年為製。則番代之期，有甚短者。遵行者蓋漸少也。老稚亦不得免。《晉書·宣帝紀》：帝平公孫淵，奏軍人年六十已上者罷遣千餘人；《武帝紀》：平吳後，詔諸士卒年六十已上，罷歸於家；此已為甚晚。
《宋書·自序》載沈亮啟大祖，謂西府兵士，或見年八十而猶伏隸，或年始七歲而已從役，尤可見其使之之酷。晉明帝之討王敦，詔敦之將士，單丁在軍，無有兼重者，皆遣歸家，終身不調，其餘皆與假三年，亦危急時曠典也。身死又須補代。劉卞兄為大子長兵，死，兵例須代，功曹欲以卞代兄役是也。