1954年，粟裕被任命为总参谋长。之前的总参谋长徐向前任职到此结束。还有一个代总参谋长聂荣臻，他去了哪里呢？聂荣臻自然不能再留在总参谋部了，他是元帅，总不能给粟裕当副手吧。聂荣臻就被免去了代总参谋长职务。在军委的会议上，邓小平传达了关于聂荣臻的分工问题，专门负责军工生产方面的工作。1956年，聂荣臻担任了国务院副总理，主管科学技术工作。