1949年，四野部队南下中南作战，12兵团作为先遣兵团南下。随后，其他主力部队纷纷向中南挺进。
作为成立较晚的42军，在其他部队南下后，才奉命南下作战，并参加解放安阳战斗。战斗结束后42军就担负起在河南的剿匪任务。也正在此时，湖南国民党部队要起义，进行秘密谈判，从42军抽调部队，让下辖师长徐国夫率部担任警卫。
抵达湖南后，徐国夫见到老部队40军政委罗舜初，倍感亲切。
40军是原3纵部队，徐国夫在这支部队担任副师长、师长两年多，对纵队首长，以及全师指战员都很想念。而他离开3纵，调去5纵也是“身不由己”。
1947年冬季攻势时，徐国夫因身体不适而离开到后方休养，原本纵队首长等他伤愈后，调任纵队参谋长。可没有等到3纵的任命，等来新成立5纵的任命命令。
1948年3月，冬季攻势后，上级要组建5纵等部，组建纵队就要抽调干部，上级指示要人给人，要物给物，大力支持5纵。为加强5纵军事两道力量。过去在3纵担任副政委的唐凯想到休养的徐国夫，找他谈话后，告示徐国夫已经被任命为5纵15师师长。
徐国夫很纳闷，自己怎么就调5纵任职，得知是唐凯的推荐，也没办法。军人要以服从为天职。
5纵是地方独立师改编而来，战斗力并不强，上级让能打仗的人来指挥，就是希望将部队带出成绩，与老大哥部队并肩作战。15师是5纵的主力，让他担任师长，纵队首长对他的能力是认可的。
可5纵战斗力弱，在此后的辽沈战役中发挥作用有限，布防在黑山、大虎山一线协助10纵作战。当时能打的部队不是攻城，就是证明阻击敌人。
平津战役时，部队打丰台战役得到极大历练。随着战役结束，部队经过整顿后南下。一路挺进豫北地区，当时的安阳和新乡还在敌人手中，上级让42军将其消灭。安阳战斗结束后，部队继续南下，但不再担负野战任务，而是剿匪。
徐国夫从河南被调去湖南时，遇到罗舜初政委，他表示军里调走不少干部，指挥战斗能力削弱一些，得知他在地方剿匪，希望他回到40军攻占，军参谋长和师长随便挑。他对参谋长兴趣不大，更喜欢带兵打仗，可40军并不缺师长，罗舜初表示这不是他考虑的，只问题愿不愿意来，他一直对老部队念念不忘，如今在42军也有一年多，也有感情。相比南下作战，他更想回40军。
没多久，他就被任命为119师师长。
等于是40军首长将兄弟部队的师长给“挖墙脚”了。其实，徐国夫离开3纵时，也是被人“挖走的”，如今等于说又挖回来，也算是扯平。
不过，回到40军的战斗任务挺繁重，跟着部队打衡宝战役，与135师一起歼灭敌钢7军，与丁盛一起受到总部嘉奖。此后部队挺进雷州半岛，对解放海南做出很大贡献。如果留在42军，可预见的回剿匪，等于提前结束大规模战斗。
