尚是吳王時，便大舉革除元朝的舊制，將元代軍中的樞密、平章、元帥、總管、萬戶等等官號一一廢除，改為以統帥兵員五千人為指揮，千人為千戶，百人為百戶，五十人為總旗，十人為小旗。
立國之後，朱元璋在洪武元年，參考了唐、宋以來軍隊的建制，採取了唐朝府兵制的寓兵於農的經驗，從京師直到郡縣都成立衛所，從地域的重要性來作決定一郡的設所之處，至於連郡則設衛。
當時，一個衛大約有五千六百名軍士，統領的長官稱為“指揮使”，指揮使之下管轄了五個千戶所，每個千戶所約有一千一百二十名軍工，長官則稱為千戶。
一個千戶管轄十個百戶所，每個百戶所涵蓋的人員約一百一十二人，長官稱為百戶；而在百戶之下則設總旗二個、小旗十個，而地方上的最高軍事機關就是都指揮使司（都司）。
在洪武二十六年的時候，明太組決定了天下都指揮使司相衛所的數目，共有都指揮使司十七個、留守司一個、內外衛三百二十九個、守禦千戶所六十五個，總計全國約有士兵一百八十餘萬之多。
之後，在永樂年間，兵員人數迭有增加，到達二百餘萬，而在英宗之後，兵員人數大減，至今全國約一百五十萬人，可是因為軍中長官吃空缺的緣故，兵員人數遠低於此。
早年，地方上的最高軍事機構長官是都指揮使，不過自從巡撫制度建立之後，都指揮史派兵必須經過巡撫核可。
不過制度上雖然如此，但是諸葛明身為東廠的高官，可以直接指揮都指揮使，甚至可立即將巡撫逮捕，當然，這是因為宦官專權，導致法制敗壞的後果。
誠如諸葛明之言，除了山區屠戶所用的自制弓箭之外，一般兵士所用的弓箭如果外流，被發現有某個組織使用，那麼就構成謀反叛亂，地方官員必須立刻上報，而由巡撫下令都司負責派兵追剿。
金玄白聽到諸葛明把話說得嚴重，不禁一愣，問道：“諸葛兄，這件事在沒弄清楚之前，能否請你看在小弟的面子上，暫勿通報巡撫大人？否則貿然出兵，恐怕對太湖的良民構成傷害。”
“