1944年秋，盛传陈诚要取代何应钦担任军政部长，何应钦大骂说：“我当师长时，他连营长都不是，有什么资格来当。” 何应钦和老蒋的心腹陈诚，结怨很深。1928年8月，蒋介石第一次下野，南京的军政大权，被李宗仁、白崇禧、何应钦所把持。不久后，被北伐军击败的五省联军总司令孙传芳，在张作霖的支持下卷土重来，率六万大军渡过长江，直趋南京。 桂系和何应钦指挥的黄埔系部队，和孙军在南京郊区的龙潭镇展开大战。激战数日后，孙军惨败，孙传芳仅带数百人过江，其余人马损失殆尽。 陈诚时任21师师长，他因病重，由士兵抬着轿子去一线指挥作战。战后，何应钦以此为由，免去陈诚师长职务，打发他去军委会担任闲职。直到老蒋复任总司令后，陈诚才被再次起用。 陈诚本就不是心胸广阔之人，加之何应钦确实也存有打压之心，他对何应钦是记在心中，两人此后睚眦不断。 起初，何应钦根本不把陈诚放在眼里，毕竟两人地位相差甚大。不想，陈诚受老蒋的信任程度之深，晋升速度之快，大大出乎何应钦的预料。随着陈诚地位的不断攀升，对何应钦的威胁也越来越大。 1935年，何应钦被授予陆军一级上将，除了老蒋这个“特级上将”外，何应钦的军衔是到头了，这时的陈诚只是中将衔。但一年后，陈诚成了“中将加上将衔”，可以挂三颗星，1939年，陈诚铨叙陆军二级上将。 到了1944年，陈诚已是身兼多个要职，若不是一级上将的八个限额已满，老蒋早就给他晋升了。 陈诚的军衔暂时升不了，老蒋便决定先让这个心腹升职，取代何应钦担任军政部长。 何应钦已把持军政部长一职十四年之久，全面抗战爆发后，军政部改组，下设军务、机械化、马政、交通、军法等司及兵役、军医等署，并分管各战区司令部、兵工厂、军医院、军牧场、军事监狱等，在军委会的四大部（军政部、军训部、军令部、政治部）中，职权最大。 老蒋先让人放出陈诚要去军政部的消息，以试探何应钦的反应。何应钦听到后，大骂说即便是军政部长换人，也轮不到陈诚来当。 得知何应钦的态度后，为了让陈诚顺利接手军政部，老蒋把何应钦叫来，开门见山的说：“敬之啊，你在军政部的时间也长了，不行就换个人吧，让辞修（陈诚的字）去主持如何？” 何应钦说：“委员长，我看还是顾墨三（顾祝同）合适，他为人沉稳。” 老蒋说：“顾墨三过于循规蹈矩，没有锋芒，还是辞修合适。” 老蒋都如此说了，何应钦只能无奈的同意。11月，陈诚正式就任军政部长，何应钦此后，再未恢复在“黄埔系”中第二人的地位。 不久后，老蒋将何应钦派去昆明，担任陆军总司令。陆军总司令部，辖四个方面军，总司令分别是卢汉、张发奎、汤恩伯、王耀武。 除驻印军和滇西反攻部队外，四个方面军的部队，是最早换装美械的，何应钦这个总司令，手上的军权是不小的。但老蒋显然不会让何应钦长期掌握部队，抗战胜利后，方面军建制撤销，接着老蒋又对军事机构进行了大改组。 改组的结果是：取消军委会，成立“国防部”，“国防部”下设“国防部本部”和“参谋本部”，白崇禧任国防部长，陈诚任参谋总长。“参谋本部”下设的陆军、空军、海军、联勤四大司令部，由顾祝同、周至柔、陈诚（兼任）、郭忏任总司令。 参谋总长的实权大于国防部长，周至柔、郭忏是“土木系”骨干，陈诚系统大获全胜。 至于何应钦，只得了一个重庆行营主任的头衔，明显是降职使用。即便如此，老蒋犹嫌不足，不久后又将何应钦打发去美国，担任军事参谋团团长。 所谓的“参谋团团长”，指挥不了一兵一卒，也无任何事情可以参谋，对何应钦而言，如此任命，形同放逐。 直到1948年春，何应钦才被老蒋召回国，相继担任“国防部长”、“行政院长”，他之所以再受重用，主因是蒋军在各大战场接连失败，陈诚替老蒋“背锅”，被免去本兼职务，在这种局面下，老蒋不得不借用何应钦的资望。 让老蒋没有想到的是，何应钦不在像之前那样对他恭顺。老蒋在8月在南京召开军事检讨会，何应钦在作报告时，一股脑将蒋军的损失和盘托出：“两年多来，兵员死伤、被俘、失踪多达300万人，损失步枪100万支，轻重机枪7万挺，山野重炮1000余门，迫击炮和小炮1.5万余门，此外还有战车、装甲车以及大批的通信器材和大量的弹药。” 何应钦这样做，是不愿为战败承担责任，同时将矛头指向宿敌陈诚。老蒋尽管很不满，但接连的败讯，让他根本顾不上对何应钦秋后算账。 南京解放后，国民党迁逃广州，何应钦心灰意冷，主动辞去本兼职务，无官一身轻的他，反而不再惧怕老蒋，准备带着家人前往美国定居。 不待何应钦离开，老蒋便指令周至柔，派专机将何应钦及其家人“护送”去了台湾。台湾省主席陈诚，在得知何应钦到台北后，反应冷淡，连像样住处都没给安排。 台湾警备副司令钮先铭，主动和家人搬出了在台北的一所大宅子，让给何应钦居住。此后的何应钦，再未担任实职，他对探望的亲友说：“我现在的工作就是三打，打桥牌，打球，打猎。”
