1965年冬季，罗瑞卿总参谋长的职务被解除。当时担任工程兵司令的陈士榘刚从罗布泊回来不久，这一天他正在自己的办公室忙工作，政委谭甫仁走了进来，笑着对着他说：老伙计，恭贺你要高升了。陈士榘被这句话弄得一头雾水，他和谭甫仁搭档多年，知道自己的这个政委一向不喜欢开玩笑。今天他说自己要高升了，肯定不是空穴来风。但上级要提拔自己，自己怎么一点消息都不知道呢？

刘志坚中将

于是陈士榘就问谭甫仁是从哪里得来的消息，谭甫仁说是总政副主任刘志坚在开会时透露给自己的。陈士榘听后立马就坐不住了，急忙来找刘志坚确认。刘志坚告诉陈士榘，他确实是总参谋长的主要候选人。当时陈士榘的职务是解放军工程兵司令，这是一个小兵种，而总参谋长却是管三军的。从一个小兵种司令被提升为总参谋长，是升了好几级。

按照常理来说，升职肯定是好事，这意味着上级对自己能力的认可和信任。但陈士榘却是个例外，当他得知自己确实有可能出任总参谋长后，不仅不高兴反而一个劲地推辞，并说自己人缘不好，请上级另选贤能。陈士榘之所以这样说，一方面是出于谦虚，另一个方面他在战争年代确实曾经和几位将领闹过不愉快。解放战争初期，山东野战军和华中野战军并没有合并，而是各自为战，很少在战役方面进行配合。

当时山东野战军中陈毅统揽全局，战役指挥主要由参谋长宋时轮负责。由于多种原因，山野在战场上败多胜少，特别是泗县战役中，山野在兵力占据绝对优势的情况下不仅未能吃掉桂系的两个团，自身还付出了不小的伤亡代价。战后，指战员们议论纷纷，陈老总主动承担了战役失利的责任，并当众做了检讨。不久后两淮丢失，毛主席决定将山东野战军和华中野战军合并为华野，以便集中力量打击敌人。

宋时轮

华野成立后，陈毅还是统揽全局，战役指挥主要由粟裕负责，陈士榘出任参谋长，宋时轮则前往渤海军区担任副司令，不久后回到华野担任十纵司令。1947年8月初，为了配合中野主力进军大别山，华野所属的陈唐兵团暂归刘邓指挥。陈士榘向刘伯承请示自己的战斗任务，刘伯承对他说：“你们把部队放在陇海路以北，摆成一个‘蛾’牌的态势，即用三个纵队集中歼灭敌人，一个纵队钳制迷惑敌人，以掩护大部队南进。我想我们的十纵队大概就是蛾牌上端的这一个点吧！”

不久后，十纵接到了陈士榘的电话：“刘邓大军奉命南下挺进大别山，这是我军实施战略进攻的部署，是毛主席的战略决策。为了配合刘邓大军的行动，你们第十纵队负责在梁山地区阻击敌整编第五师和第八十四师，要克服一切困难，坚决把这两个师特别是整编第五师紧紧拖在梁山地区。”这个任务十分艰巨，整编第5师是国军五大王牌之一，全副美械装备，战斗力十分强悍，时任师长邱清泉也是国军中著名的悍将。

不论兵力还是武器装备，十纵和对手相比都存在着不小的差距，这就注定了梁山阻击战必然十分艰难。但在宋时轮的指挥下，十纵硬是和强大的对手在梁山地区血战了整整八个昼夜，重创敌军五个营。由于双方实力悬殊太大，战斗最后，十纵被迫撤退。敌人追的很紧，部队过河比较匆忙，不少伤病员和支前民工落入敌手。战后，上级认为宋时轮在没有命令的情况下，私自率部撤退到黄河北岸，而且部队还出现了一定的损失，因此打算追究他的责任。

宋时轮

宋时轮称当时过黄河是奉了陈参谋长的口头命令，因此自己不是私自行动。但陈参谋长却予以了否认，双方各执一词，宋时轮又拿不出陈参谋长要自己率部过黄河的命令，因此最终被追究责任，此时粟裕出面说情，宋时轮才过了关。在这件事情上，宋时轮对陈参谋长是有意见的。同时华野的另一位将领和陈参谋长也有过不愉快。宿北战役期间，粟裕指挥主力包围了戴之奇的整编第69师。

为了逃脱被围歼的命运，戴之奇急忙向相邻的友军胡琏求援。国军一向有见死不救的陋习，而且胡琏也惯于自保。如果被围的是一般的国军将领，胡琏很可能不会救援。但戴之奇不是一般的国军将领，他是蒋经国的亲信，因此胡琏不能不救。当时奉命阻击胡琏的是叶飞的一纵，胡琏率领的整编第11师也是国军五大王牌之一，战斗力很强，硬实力在一纵之上。

如果正面硬拼的话，一纵即便能挡住敌人，但也要付出很大的伤亡代价。因此叶飞没有一味在正面硬扛，而是利用夜色的掩护主动出击。此举收到了很好的效果，打乱了胡琏的进攻部署，前锋还一度打到了胡琏的指挥部附近。不久后天亮了，反应过来的胡琏依仗兵力和火力优势，将一纵给围了起来。叶飞向陈士榘请求对策，陈参谋长命令部队撤退。

叶飞

白天要在敌人的重围中撤退，危险性很大，叶飞认为没有把握，因此在电话中请陈参谋长前来指挥。陈参谋长说敌人包围太严，自己进不去。叶飞一听就急了：你都进不来，我又怎么能冲得出去呢？陈参谋长说：如果不撤退的话，我就不管了。多年后，叶飞写回忆录时还专门提到了此事，并说：几万人的部队，你当参谋长的，怎么能说不管呢？

在这件事情上，叶飞和陈参谋长也闹了不愉快。好在最后一纵坚持到天黑后冲了出来，宿迁战役也打了大胜仗。1948年11月下旬，双堆集战役打响，中野将黄维兵团包围在了双堆集地区。当时黄维兵团将近12万人马，而中野也是12万，兵力上没有任何优势。同时中野刚从大别山转出不久，实力还没有得到恢复，重武器极为缺乏。因此虽然将黄维兵团给围住了，但却吃不掉对方。

无奈之下，中野只能向华野求援，陈士榘奉命率领几个纵队的兵力前来助战。当时中野各部都打红了眼，谁也不愿意让出攻击位置。陈参谋长一气之下带着部队走了，后来还是刘伯承协调，王近山让出了自己的攻击位置，刘伯承又给陈士榘打电话，陈参谋长才率部返回，最终中野和华野联手将黄维兵团消灭，黄维本人也成了俘虏。在这件事情上，中野一些将领对陈参谋长也是有一点意见的。

因此1965年冬季当得知中央准备提拔自己当总参谋长的时候，陈士榘才极力推辞，并说自己人缘不好，请另选贤能。当然这只是一部分原因，还有一部分原因是陈士榘本身也不太愿意当参谋长。在华野当参谋长的时候，他就很少在司令部，而是经常率部在外面作战。粟裕有头疼病，而且部队经常打大仗，身边没有一个得力的参谋长不行，最后提拔张震担任了副参谋长。张震上任后，协助粟裕指挥了许多重要的战役和战斗。

陈士榘本身就不太愿意干参谋长的工作，更喜欢领兵在外面打仗。因此当得知中央要提拔自己当总参谋长后，他才极力推辞，最终时任第一副总参谋长的杨成武出任了代总参谋长。之后叶剑英又找陈士榘谈话，说准备任命他为国防部副部长。陈士榘再次婉拒，并对叶帅说：“还是让我继续当这个小兵种的司令吧。我能力有限，这个职务很适合。再说了，我这个人人缘一向不佳，职务高了，众目睽睽，倒不如偏立一角，干得更踏实。”最终陈士榘在工程兵司令的职务上一直干到了退休。