1946年2月，国民政府所有部院机构，已由抗战时的临时首都重庆，全部迁回南京。军事委员会即召开全国“整军会议”，会议的目的，旨在整编庞大杂乱的国民党军。鉴于抗日战争胜利结束，过去因抗战需要而扩编拼凑的600多万军队，现在已无继续维持保留之必要。为减轻拮据的国库开支，将节缩的军费，移作建设之用，应大量裁减军队，汰弱留强，只保留保卫国防和国内治安所必要的数额。被保留的部队，按照平时编制要加以精简，武器装备方面，则按现代化要求充实起来，成为精悍的国防军。若遇战争即以此为基干，可以迅速扩编，世界各大国，都是采取这种平、战两时不同的军备制度。“整军会议”的参加者，为全国军队师长以上将领，我受命参加了这次会议。
军事委员会委员长蒋介石亲自主持了这次会议，做了开幕训示。美国军事代表团团长魏德迈将军在会上也讲了话。接着由各部队将领报告各自部队及接受日军投降情况。特别是关于各地八路军和新四军情况，有些将领也在报告中提出。如徐州行营政治部主任滕杰，就做了长篇论述。会议中间，由何应钦、白崇禧主持，在南京城外麒麟门附近举行陆空军联合攻击演习，我们与会将领都莅场参观。
演习目的是显耀装备优良的陆空军的强大威力。白崇禧在讲评时，声称国军以现代化武器去打共产党不成问题。自认为拥有绝对优势，过低地估计共产党军事力量。担任演习的部队是卫戍南京的张灵甫第七十四军，将领们与之晤面倾谈时张面有得色。在励志社举行一次与会将领聚餐会。这次筵席上是西餐，用西餐目的，是为了将领们在与外宾交际宴会上，掌握宴会礼貌，由何应钦主持。何亲自示范，讲解刀的使用模式、各种冷热菜的吃法，以及各种酒的选用等仪式，将领们感到欢畅。会议结束时，蒋介石以军为单位，轮流与各将领照相留念。轮到十八军时，何应钦参加进来，蒋坐于正中椅上，何应钦、胡琏、杨伯涛、覃道善、高魁元则立于左右。这次会议于是结束。各将领对整编军队的利害得失，看法各有不同，不免引起一阵思想波动，多数是关心自己的前途。
1946年4月，国民党军队开始实行整编。一部分军队撤销番号，全部官兵解甲归田，或就地安排工作，有些军官编入军官训练团，集中管理训练，再分配到地方政府任兵役工作。被保留的部队，则缩小编制，裁减兵员，将战时编制改为平时编制。原辖三师九团制的第十八军，缩编为三旅六团制的整编第十一师，军长胡琏降为师长。原第十一师缩编为整编第十一旅旅长杨伯涛，原第十八师缩编为整编第十八旅旅长覃道善，原第一一八师缩编为整编第一一八旅旅长高魁元。全国保留下来新编成的整编师总共不到100个，另驻华北及东北地区的国民党军队，则仍保持原状没有缩编。
这次裁减兵额逾200万，国民政府对编减兵员没有做出妥善的安排，只发给少数的退伍金遣回原籍，对就业问题大多数没有安排。一部分干部则被送到军官训练团，加以短期训练，结束后分配到各省、市地区的军管区、师管区、团管区做兵役工作。这些兵员满腔愤懑，情绪颓丧。如我十一师有三分之一的老干部和老兵，当离开部队和我道别时，在一声“大家珍重”声中，有不少悲不自抑、掩面饮泣者。在南京编余干部集中的军官训练团，就曾到紫金山孙中山先生陵墓哭陵，引起一阵骚动！经蒋介石亲自出面安抚，始告平息。但为国家利益着想，裁减军队是完全必要的。
