以十分重要，这样重要的部门自然各方势力也都伸手。其中兵马司的直管部门是中军都督府，大都督就是这一代的定国公徐希皋。

不过到了明朝中期，五军都督府职权弱化，兵马司实际上已经归了兵部管理，可是兵部要掌管全天下百万明军的训练、装备、作战等等，哪有什么时间精力管一个小小的兵马司？所以从明朝中叶开始，兵马司的实际管理部门就变成了都察院巡城御史。

明朝建立初期，南都勋贵遍地，这帮淮泗功臣集团仗着自己有军功，在南都很是搞出一些违法的事情，闹到最后甚至有功臣将当朝官员拉下轿子痛打一顿。这件事闹到朱元璋处，老朱一看手下这帮将领不管不行了，所以设立了巡城御史，负责办理地方之事，厘剔奸弊，整顿风俗。