领兵打仗不是大司徒的事，但是建立军队编制却是由地官系统负责。按照《周礼》的记载，大司徒的副职小司徒负责协助大司徒完成军队编制工作。
想要知道周朝的军队编制是怎么产生的，必须先了解其行政组织体系。周朝的行政组织体系大致分为乡系统和遂系统。乡是王城四郊百里之内的行政组织，王城四郊百里之外的行政组织就属于遂，当时分别设置了六乡、六遂来分类管理。
以乡为例，王城四郊之内共分为六乡，每乡辖家。乡之下逐级设置州、党、族、闾、比等五级行政组织，各自所辖户数逐渐递减，每州辖家，每党辖家，每族辖家，每闾辖25家，每比辖5家。遂也是如此分层设置，且管辖的户数也是一样的，只是遂之下的各级行政组织的名称与乡不同，分别是县、鄙、酂、里、邻。在各行政组织最高官员的爵位上，遂官系统的官员爵位整体低于乡官系统，可以看作是中央朝廷和地方官府的区别。
各级行政组织的户数决定了军队编制的人数。“五人为伍”的这五个人，就是每比或者每邻所管辖的五家，每家出一名男子而来。五伍为两，每两25人，与每闾或每里的户数相同；四两为卒，每卒人，与每族或每酂的户数相同；五卒为旅，每旅人，与每党或每鄙的户数相同；五旅为师，每旅人，与每州或每县的户数相同；五师为军，每军人，与每乡或每遂的户数相同。
《周礼·夏官》：“凡制军，万有二千五百人为军。王六军，大国三军，次国二军，小国一军。”这里的“三军”并不是兵种的区别，不是今天的海陆空三军，而是指军队的人数。按照人为一军的标准来看，“三军”不过才37人而已。天子的“六军”也才70人。
只不过随着周王室的江河日下和诸侯国的日益强大，周天子的“六军”名存实亡，而诸侯国的“三军”却不止于此。例如在晋文公治下的晋国国力强盛，军队庞大，已经远远超过了三军的编制，但晋文公毕竟是王臣，不敢明目张胆地僭越制度号称六军。于是晋文公就想了个变通的办法，不称多出来的军队为军，而是称为“行”。这样就成了上军、中军、下军三军，左行、中行、右行三行。晋国因此盛极一时，晋文公才坐上了霸主的位子。
周朝的军队编制承袭商代而来，“什伍”之制就来自商朝。除了依据户数而来的军队编制外，其实周朝更流行的是乘，这是当时主要的作战工具——兵车。每辆兵车上有甲士三名，车下有步兵若干名，而且步兵的数量不断增加，达到了每乘72人的规模。不过，严格来说乘是作战单位，而不是军事编制。古籍中常见的“千乘之国”“万乘之国”“领兵车五百乘”就是作战单位，并不代表具体的军队编制，否则按照一乘75人来计算，“万乘之国”就有75万名士兵。
军队编制历来都是在沿袭前朝的基础上，基于现实需要而有所损益，而其中增益的部分，就成为一个朝代的亮点，推动着军事思想、军事制度的演变和发展，其实现在军队编制的名称很多在古代已经出现。例如周朝有旅、师、军的编制。东汉时出现了营的编制，每营约千人，相当于周朝师一级编制。到了隋唐，形成团的编制，每团下辖两个旅，每旅人。到了明朝，出现了户，每个千户掌管人，百户掌管人。清朝以旗为单位，则是一种战略单位，并没有固定的人数。
到了今天，周朝的军队编制只能作为一种历史知识来看待，但理清周朝时军队编制的来源，更有利于我们深入了解一个词：人民军队。