1944年9月，盛传陈诚要取代何应钦担任军政部长，何应钦大骂说：“我当师长时，他连营长都不是，有什么资格来当。” 不久前，蒋介石在重庆召开会议，点名批评了军政部：“军政部向纱厂收买上好纱布，耗费了不少钱，可发给士兵服装的质料，却经不起一两个月的服用就坏了。此中弊端何在？不止军服，其他的补给也很成问题，有将领向我反映，他手下的一个师长，来到重庆领装备或其他军需品，每次要花费数万元，来活动某些人员，否则就不能顺利领到。” 老蒋虽未直接说何应钦的名字，但把军政部痛批了一番，参会者窃窃私语，认为恐怕何应钦的军政部长位置要坐不稳了。果不其然，会后，军政部要换人的消息不胫而走，疯传接替者是陈诚。 何应钦自1930年3月，就任军政部长以来，把持这一重要部门已达十四年之久，在他看来，即便换人，接任者也不该是陈诚。 陈诚要当军政部长的口风其实就是在蒋介石的默认下放出去的，他得知何应钦反应很大后，不得不亲自召见何应钦说：“敬之啊，你兼职很多，军政部的事情就换个人来主持吧。” 何应钦揣着明白装糊涂：“事情虽多，但尚可兼顾。” 老蒋无奈，只得敷衍一番后，悻悻结束了谈话。过了一段时间，不死心的老蒋，在一次会后，留下何应钦问道：“辞修（陈诚）为人可靠，是个军政部长的好人选，你看如何？” 何应钦说：“墨三（顾祝同）百依百顺，资历也深，更为合适。” 蒋介石坚持说：“顾墨三不行，我看还是辞修更合适。” 事已如此，何应钦只得表示，他一切服从老蒋，谁当这个军政部长都可以。11月，何应钦被正式免去军政部长职务，由陈诚代理，两个月后，陈诚正式接任。丢掉军政部长职务的何应钦，在蒋军中，由仅次于老蒋的军事二号人物的地位，逐步的边缘化。 外界看来，长期作为老蒋军事上副手的何应钦，骤然失势，让人费解。但实际上，老蒋和何应钦的蜜月期，在1927年8月，老蒋第一次下野时，就宣告结束了。 老蒋当时下野，是在桂系李宗仁、白崇禧参加的会议上，在压力之下不得不提出自己要“休息一下”。对老蒋并不坚决的“下野”要求，白崇禧、李烈钧等人马上赞同，李宗仁干脆说：“请蒋总司令决定下野后的去处。” 向来被老蒋视为副手的何应钦，一反常态的在会上不仅没有劝说老蒋不要下野，而是低头不语，坐观成败。 会后，老蒋单独召见何应钦，本以为何应钦会安慰他几句，不料何应钦开门见山的说：“以目前形势而言，我也同意你离开一段时间。”说完后，何应钦便告辞了。 老蒋大为恼恨，曾对人说，白崇禧等人逼他下野，他并不意外，何应钦这个态度，是万万没有预料到。 1928年初，老蒋重任总司令后，第一时间夺去和何应钦对黄埔军队的控制权，此后虽经人调和，看似和好如初，但老蒋心中对何应钦的“那根刺”则是从来没有消除。 老蒋后来让和何应钦当军政部长，也是各方势力均衡的结果，何应钦毕竟是黄埔系的代表人物，总比那些杂牌的陆军上将当要可靠一些。等到了1944年，老蒋的心腹，被称为“小委员长”的陈诚资历和军衔都够了的时候，何应钦也就只能离开军政部了。 抗战胜利后，何应钦被老蒋打发去美国，担任所谓的“军事考察团上将团长”。直到1948年初，老蒋为了对抗桂系李宗仁，这才将何应钦召了回来。李宗仁当选副总统后，老蒋为了打压桂系，免去了白崇禧“国防部长”的职务，由何应钦担任。 1949年初，老蒋下野后，行政院长孙科辞职，作为老蒋、李宗仁权力妥协的结果，何应钦接任了行政院长。此时的何应钦身兼军政要职，老蒋对他的态度也好了许多，3月派儿子蒋经国亲自给何应钦操办六十岁生日，在外人看来，蒋、何似乎又进入了蜜月期。 看似位高权重的何应钦，实际上军政权力均有限，他这时也算看清了自己的处境，在南京解放，国民党迁逃广州后不久，他就主动辞去了“行政院长”“国防部长”等主要职务。 辞职的何应钦考虑到他和老蒋的微妙关系，打算去美国居住。老蒋得知后，让空军总司令周至柔亲自乘坐专机，将何应钦夫妇“接”到了台湾。 “接”的时候兴师动众，可等何应钦到了台北后，却没有给他安排住处。何应钦的旧部，台湾警备副司令钮先铭一面大骂陈诚心胸狭窄，就知道搞这种小动作，一面和家人搬出了牯岭街的一栋大房子，让给何应钦夫妇住。 何应钦到台湾后，挂名各类虚衔职务，名义地位很高，实则毫无权力。无事可干的何应钦，爱上了打猎，后来联系了同样失势的白崇禧、杨森这两个国民党上将，三人时常结伴打猎，被人戏称为“台北上将打猎三人小组。” 坊间传闻，白崇禧有一次打猎时，车子被特务坐了手脚，险遭不测。对此，白家人却认为这只是巧合，确实是车子本身有问题，白崇禧的五子白先勇曾说：“那天杨森等人也在，总不能把三个上将都干掉吧。” 1987年10月21日，何应钦在台北病死，年98岁。逃台的国民党军政大员，除了白崇禧等少数人，大部分越是失势的，往往越长寿。（图片：顾祝同、何应钦、白崇禧合影）。
