皇权的另一个轮子是军队。
朱元璋在攻克集庆以后，厉行屯田政策，广积粮食，供给军需。和刘基研究古代的兵制：征兵制的好处是全国皆兵，有事召集，事定归农，兵员素质好，来路清楚，政府在平时无养兵之费。坏处是兵员都出自农村，如有长期战争，便影响到农村的生产。而且兵源有限制，不适合于大规模作战。募兵制呢？好处是应募的多为无业游民，当兵是职业，数量和服役的时间，可以不受农业生产的限制。坏处是政府经常要维持大量数目的常备军，军费负担太重，而且募的兵来路不明，没有宗族乡党的挂累，容易逃亡，也容易叛变。理想的办法是折中于两者之间，有两者的好处，而避免各自的坏处。主要的原则是要使战斗力量和生产力量一致。
刘基创立的办法是卫所制度。[71]
卫所的兵源有四种：一种是从征，即起事时所统的部队，也就是郭子兴的基本队伍。一种是归附，包括削平群雄所得的部队和元朝的投降军。一种是谪发，指因犯罪被谪发当兵的，也叫恩军。一种叫垛集，即征兵，照人口比例，一家有五丁或三丁出一丁为军。前两种是定制时原有的武力，后两者则是补充的武力。这四种来源的军人都是世袭的，为了保障固定员额的维持，规定军人必须娶妻，世代继承下去，如无子孙继承，则由其原籍家属壮丁顶补。种族绵延的原则，被应用到武装部队里来，兵营成为武装的家庭群了。[72]
军有特殊的社会身份，单独有“军籍”。在明代户口中，军籍和民籍、匠籍平行，军籍属于都督府，民籍属于户部，匠籍属于工部。军不受普通行政官吏的管辖，在身份上、法律上和经济上的地位，都和民不同，军和民是截然分开的。民户有一丁被垛为军，政府优免原籍老家一丁差徭，作为优恤。军士到戍所时，由宗族治装。在卫的军士除本身为正军外，其子弟称为余丁或军余，将校的子弟则称为舍人。日常生活概由政府就屯粮支给，按月发米，称为月粮，马军月支米二石，步军总旗一石五斗，小旗一石二斗，步军一石（守城的照数支给，屯田的支半）。恩军家四口以上一石，三口以下六斗，无家口的四斗。衣服岁给冬衣、棉布、棉花，夏衣、夏布，出征时依例给胖袄、鞋裤。[73]
军队组织分作卫所两级：大体上以五千六百人为卫，卫有指挥使。卫分五个千户所，所一千一百二十人，有千户（长官）。千户所分十个百户所，所一百一十二人，有百户（长官）。百户下有总旗二，小旗十；总旗领小旗五，小旗领军十人。大小联比以成军。卫所的分布，根据地理险要：小据点设所，关联几个据点的设卫。集合一个军区的若干卫所，又设都指挥使司，作为军区的最高军事机构，长官是都指挥使。洪武二十五年（1392）全国共有十七个都指挥使司，内外卫三百二十九，守御千户所六十五。首都和地方的兵力分配如下：
[imgalt="" class="image-alone" src="images/" /]
这十七个都指挥使司又分别隶属于五军都督府。
军食出于屯田。大略是学汉朝赵充国的办法，在边塞开屯，一部分军士守御，一部分军士受田耕种。目的在于省去运输费用和充裕军食，减轻国库的负担，战斗力和生产力协调一致。跟着内地卫所也先后开屯耕种，以每军受田五十亩为一分，官给耕牛农具。开头几年是免纳田租的，到成为熟地后，每亩收税一斗。规定边地守军十分之三守城、七分屯种，内地是二分守城、八分屯种，希望能达到自给自足的地步。[75]
军队里也和官僚机构一样，清廉的武官是极少见的，军士经常被苛敛剥削。朱元璋曾经愤恨地指出：