1932年1月，中政会临时会议通过决议，再度设立军委会，推选蒋介石（蒋派领袖）、冯玉祥（原西北军首领）、阎锡山（晋军首领）、张学良（东北军首领）、李宗仁（新桂系首领）、陈铭枢（陈铭枢派粤军首领）、李烈钧（国民党元老、二次革命首义都督）、陈济棠（陈济棠派粤军首领）为委员，参谋总长、训练总监、军事参议院院长、行政院长、军政部长与海军部长为当然委员。军委会的职权是：关于国防、绥靖的统率事宜；有关军事章制、军事教育方针的最高决定；关于军费支配、军用品重要补充的最高审核；有关军事建设、军队编制的最高决定；中将以及独立任务少将以上任免之审核。委员长“统辖全会事务，监督与指挥各职务之进行，签发命令与一切公文及任命状，披阅往来文书、考核与赏罚及任免本会职员”。
军委会下辖参谋本部、训练总监、军事参议院。1932年5月，为全权处理“剿匪”事宜，军委会特任委员长蒋介石兼任豫鄂皖三省“剿匪”总司令；1933年4月，为处理“剿匪”区域军政，启用南昌行营关防。
蒋介石借由“剿匪”，以军委会名义，或以委员长名义在江西、湖北、湖南、江苏、福建、四川、广东、云南、浙江、贵州、河南、陕西、甘肃、河北、察哈尔等地，先后成立军事机关，直接处理“剿匪”区的党政军事务，从而控制了全国多数省份的地方权力资源。
重建的军委会不直接隶属于中执会，而是国府负责军事的最高机关，经由中政会对中执会负责。但实际情况是，国府、中政会都不能指挥它，军委会委员长成为军权核心，是最高的决策者。
