1949 年春天以后，国民党和共产党在中国大陆的仗打不下去了，蒋和国民党中央政府都准备移到台湾。这时美国对蒋已失去信心，希望在台湾另外扶持一个人来对抗中国共产党。美国属意于当时主掌台湾军政大权的陈诚和孙立人。而陈诚也一度考虑过自立，结果蒋大为彷徨，甚至怀疑自己到不了台湾，而“甚愿在定海与普陀作常驻之计”。
蒋后来决定到台，但不敢直接飞到台北，座机降落在澎湖马公停留了四天，看看陈诚的脸色和动向。直到陈诚亲自到马公去看他以后，蒋仍然犹豫了5天才决心到台。但是他仍然不敢到台北，因为台北是陈诚的地盘，他因此降落高雄——高雄是孙立人驻军所在地，在陈诚的控制之外。可是蒋仍然忧心忡忡。向孙劈头第一句就问“我在此地安全吗?”
1950年陈诚成为台行政院长，但同年蒋促成国民党改造委员会，兼具党务改造和以党领政两大任务，以防万一时可架空陈诚的行政院。
陈诚的个性虽然是有名的暴躁易怒，但是那是对事、对下属而言，对蒋家本质上则是忠心的。而蒋对他的信任也异乎常人。由于陈诚在国民党众多将领中是极少数有政治认识和政治能力者之一，蒋很早就把长子蒋经国交给陈诚提携。
首先，蒋命陈诚成立著名的“三青团”，蒋经国就在三青团中踏出他政治的第一步。后来，三青团由他逐渐掌握。抗战胜利后，三青团改组，组织处由蒋经国负责，三青团便成为他在大陆时代最主要的政治资源。蒋经国另一个大陆时期最重要的政治资源——青年军,主要也是由陈诚协助成立的。
陈诚个子小，其貌不扬，身体也不够粗壮，当初他曾独自跑到日本，要投考日本军官学校，主试者即以此为由，拒绝他报告。个子小，也差点使他在争取与谭家的姻亲关系上受挫。湖南省主席谭延(曾任国民政府第一任行政院长)在1930年9月死前，曾经拜托蒋为他的三女儿谭祥找个好归宿。蒋属意陈诚，宋美龄就扮起媒人的角色。谭祥在当时是有名的美女，据说，当她知道家里长辈有意将她许配给陈诚时，曾表示不愿意，因为陈诚的个子小、相貌不出众。宋美龄花费了一番唇舌，终于把她说动，“陈诚这个人，日后一定会出人头地!”这是宋美龄游说最强调的一句话。1932年元旦，谭祥成为陈诚的第二任妻子。
国民党在1948年11月淮海战役大败之后，局势大坏，蒋判断大陆不保，准备将台作为最后根据地。这时他派到台替他铺路的仍然是陈诚。陈诚就这样成为台湾省主席,在大陆诸将领一一失败之后,他成为国民党残存的最大军事力量。这段渊源，使双方直到蒋来台之时都只有恩的存在，没有怨的发生。
陈诚对蒋的忠诚，可以从一件事上窥知一二:抗战胜利后，陈诚虽已贵为军政部长、参谋总长，但是每当蒋讲演时，他必在旁立正肃立直到演讲结束。
当然，政治是现实的。蒋、陈的深厚情谊并不能保证陈诚一定不会背叛他的老上司。
除了双方两家情谊及陈的个性之外，当时的外在条件也并不足以引诱陈诚对抗蒋。在蒋去台前夕，国民党正陷入大失败的恐慌之中。陈对台湾能否保住也毫无信心，甚至蒋到台后，国民党领袖们还亲自到南朝鲜、菲律宾活动，为万一台不保时做组织流亡政府的试探。在这种情况下，应该谈不上在台自立为王的事。蒋撤离大陆已是大势所趋。美国当时的主要政策是放弃国民党，放弃台湾给中共，即使有意以陈代蒋，但始终没有任何支援他反 共的允诺，所以，陈诚阻止蒋去台的可能性不大。
然而，话得说回来，虽然一些历史学者推断的陈诚阻止蒋来台之事可能性不大，但是，由于国民党的政权结构必然造成严重的权力斗争，尤其在继承权的问题上，证诸历史发展，蒋、陈之间也确实存在着某种程度的矛盾。
