1944年5月，在豫中战役结束后不久，日寇即发起长（沙）衡（阳）战役。此役的作战目的是打通粤汉铁路线，将粤汉铁路和平汉铁路连成一线，构成陆上战略交通线最重要的组成部分。

1941年12月，第三次长沙会战结束后，日寇在第9战区就没有再发起过大规模的进攻作战。在日寇的史料中记载，日寇第11军各师团对第9战区产生畏战情绪，甚至一度将情绪扩散到整个国军部队。

1942年7月，横山勇接任第11军司令以后，先后对第6战区发起鄂西会战和常德会战。经过两次会战后，特别是常德会战后，第11军的战斗意志才有所恢复。

根据日寇大本营的命令，整个豫湘桂会战分为三个阶段实施，第一阶段的豫中战役主要由华北方面军第12军实施，第11军负责策应；第二阶段的长衡战役由第11军实施；第三阶段由华南第23军和驻越南第21师团实施。

此时的第11军共有8个师团又1个旅团，为了击败当面第9战区主力，中国派遣军又给第11军增派了大量部队，包括华北方面军第27师团、第37师团（8月抵达战场）、第3战车师团一部以及第13军第64师团。上述部队将与第11军抽调出来的5个师团组成攻击兵团，投入此次会战。

此外，中国派遣军还抽调4个旅团接替第11军的防务，从本土刚刚组建的4个野战补充队（旅团级）纳入第11军战斗序列，随时补充各师团的战斗损耗。

1944年3月，日寇第11军拟定进攻长沙、衡阳的作战计划。但中国派遣军认为计划过于消极，不符合派遣军的作战意图，遂调派关东军高级参谋岛贯武治担任第11军高级参谋，后者于4月拟定新的作战计划：

以第3、第13、第40、第68和第116师团为一线兵团，并列于华容至崇阳一线。其中，右翼第40师团从南县渡洞庭湖，沿沅江、益阳、宁乡南进；中路第68和第116师团从岳阳出发，沿粤汉铁路岳阳至衡阳段南进；左翼第3和第13师团沿平江、浏阳、萍乡、茶陵南进。

第27、第34和第58师团组成二线兵团，进攻发起前集结在监利、蒲圻，随时投入战场；独立第17混成旅团进至江陵、松滋河一线，监视第6战区部队，掩护部队右翼。华南地区的第23军计划在第11军行动后，以第22师团和独立第22混成旅团向广西梧州、柳州攻击，以牵制第4战区部队不能增援；京沪地区的第13军计划以第70师团向衢州攻击，以牵制第3战区部队不能增援。空军则以第5航空军为主，其第1飞行团任务是歼灭桂林地区的中美空军，主力用于直接支援第11军作战。

上述部队中，参加长衡战役的部队兵力为25万~28万人。

国民政府方面，第9战区自第三次长沙会战后，战区所属部分部队被抽调。由于防区内鲜有战事，战区司令长官薛岳也开始懈怠。各部队派系之争也越来越严重，尤其是中央军嫡系部队，以正统自居，排挤地方部队，引发各方的不满。中央军的高级将领自持“天子门生”庇护，骄横跋扈，甚至对战区司令长官薛岳的指令也阳奉阴违。第9战区的战斗力实际上已经大不如前。

1944年5月初，日寇打通平汉铁路。军事委员会判断日寇后续必然对粤汉铁路发动进攻，遂命令第9战区“积极准备，勿为日寇所乘”。

战前第9战区共有10个军，部署在赣北、鄂南、湘北和湘西地区。其中，右翼新编第3军和第58军防守赣北地区（不在此次日寇第11军打击范围）；左翼第72军（傅冀部）防守鄂南；中路第20军（杨汉域部）、第44军（王泽俊部）驻守湘北，第99军（梁汉明部）防守湘西。战区直属部队包括：第37军（罗奇部）集结于汨罗江，第4军（张德能部）集结在长沙，暂2军（沈发藻部）集结在株洲、渌口，第10军集结在衡阳、衡山之间。

不久之后，日寇第11军开始向崇阳、岳阳、华容地区集结，军事委员会于5月28日电令第9战区“准备决战”。由于担心第9战区兵力不足，军事委员会从周围战区抽调9个军增援第9战区。上述部队兵力合计约40万人，但由于军事委员会命令下达过晚，各战区部队在会战发起时，还没有来得及抵达长衡地区，日寇就已经发动进攻。

1944年5月27日，日寇5个师团开始分三路向第9战区发动进攻。

右翼第3和第13师团轻易突破守军阵地，至6月1日，先后攻占通城、麦市、平江，抵达汨罗江北岸；中路第68和第116师团首先强渡新墙河，击破守军第20军阵地。先头部队乘汽艇渡过汨罗江，攻占归义；左翼第40师团首先攻占南县、安乡，然后继续向洞庭湖南岸推进。

此后，第11军司令横山勇命令一线各师团不得冒进，并命令二线兵团第34和第58师团立即南下投入战斗，负责夺取长沙；左翼第3和第13师团在平江、长寿街集结休整，待第34和第58师团抵达战场后，分两路进攻浏阳；右翼第40师团沿洞庭湖继续南下夺取沅江，切断第9战区西撤的通道，再向益阳、宁乡方向进攻；中路第68和第116师团则负责肃清汨罗江、捞刀河之间的守军，夺取金井、福临铺、三姐桥等地，为夺取长沙扫清外围障碍。

鉴于战事紧急，军事委员会于6月4日命令第24集团军（王耀武部）所属第73、第74、第79和第100军划归第9战区指挥，驰援湘江。

在日寇左翼浏阳方向，第26军（丁治磐部）北上增援，于6月6日抵达萍乡。此时，浏阳方向守军第37军接连放弃阵地，已经撤至浏阳以东山区，第99军则据守长沙和浏阳之间的预设阵地，顽强抗击日寇。

在日寇中路，第116师团和第68师团主力于6月8日渡过汨罗江。二线兵团第34师团抵达战场，3个师团击破守军阵地，逼近捞刀河北岸。第58师团投入战斗后，日寇开始部署夺取长沙的准备。

此次进攻长沙，日寇第11军吸取了之前长沙会战的教训，进攻部署非常谨慎。计划夺取长沙的第34和第58师团抵达战场不久，部队消耗较小，即便在长沙遭遇顽强抵抗，也能够持续展开进攻。在长沙周边，横山勇决心先夺取长沙以东的浏阳和以西的宁乡，消除第9战区反击的威胁。不仅如此，此次进攻长沙，日寇将岳麓山作为重点进攻目标，以第34师团主力负责夺取；第58师团负责进攻长沙市区，进攻部队在战前还专门进行了攻坚战术的训练。

在宁乡、益阳方向，刚刚划归第9战区的第24集团军于6月9日抵达战场，王耀武命令第100军（李天霞部）增援益阳，第73和第79军增援宁乡。同一时间日寇第40师团正与益阳守军第77师激战，该师因伤亡过重，于6月11日撤出益阳。6月12日，第100军第19师尚不知益阳已经失守。在益阳外围遭遇日寇后，即向当面日寇展开进攻。经过2天激战，日寇主动撤退，转向宁乡。第19师于6月14日收复益阳。该师将防务又交付给第77师，随即南下追击宁乡的日寇。

在宁乡，日寇第40师团主力正与守军激战，守军是第24集团军所属第73军（彭位仁部）和第79军（王甲本部），负责宁乡城防的是第58师（张灵甫部）。6月15日，第40师团突破外围阵地，攻入城内，与守军展开巷战。经过4天苦战，第58师城内部队仅剩下200余人，仍然据守核心阵地不退。日寇见守军如此顽强，遂于19日绕过宁乡，南下进攻湘乡。当天第19师抵达宁乡，与第58师会合。

在浏阳，日寇第3师团和第13师团于6月10日分别从西、东两个方向夹击浏阳城。负责浏阳以西防御的第99军已经奉命西撤，驻守在浏阳城内的是第44军（王泽俊部），而第26军仍然停留在浏阳以南的萍乡。

当天，日寇第3师团从城西、城北向城垣展开攻击；第13师团以一部向城东佯攻，主力则迂回到城南。战至6月14日，第44军残部突围，日寇攻占浏阳。

在长沙，守城部队是第4军所属第59、第90、第102师和炮兵第3旅，兵力1万余人。其部署是第59师守城南，第102师守城北，第90师防守湘江西岸的岳麓山，炮兵第3旅阵地就部署在岳麓山上。

6月16日，经过精心准备的日寇开始向长沙进攻。负责进攻岳麓山的第34师团当天就攻占了岳麓山以东、以西的虎形山和牛形山。守军第90师兵力过于稀少，根本无力防守偌大的岳麓山。当天黄昏，第90师外围阵地被日寇突破，该师阵地全线动摇，不得不退守妙高峰、天心阁核心地带。

6月17日，日寇猛攻上述两阵地，并再次施放喷嚏式毒气弹。双方死战，均遭受极重的损失。为尽快夺取岳麓山，消除守军炮兵的威胁，第11军令第68师团抽调第58旅团增援第34师团。该旅团向西实施迂回，向守军左翼燕子山猛攻，第90师第268团伤亡过半，阵地随时可能被突破。

当天晚上，第4军军长张德能决定将守城的2个师各留下一个团，其余主力转移至岳麓山。命令下达后，各师开始准备渡过湘江。但因为时间仓促，第4军不仅缺少渡河工具，行动上也没有统一调度。各部集中在几处渡口过河，遭遇日寇在牛形山上刚刚部署的炮兵阵地猛烈的袭击，导致渡河部队陷入混乱。期间被炮火击中和坠河溺亡者不下1000人。

当第102和第59师于次日抵达湘江西岸时，才获悉岳麓山核心阵地已经丢失，第4军各部只得向西南方向撤退。沿途被日寇尾击，部队再次陷入无序状态。最终撤至邵阳时，全军已经不足4000人。

留在长沙的2个团在面对第58师团猛攻时，也很快无法支持。下午3时，1000余人从北门冲出，后辗转撤至茶陵，与第27集团军会合。长沙城遂第二次沦陷。

1944年6月16日，日寇第11军司令部在长沙还未夺取的时候，就向各师团下达了下一步进攻命令。鉴于第9战区国军正陷入混乱，第11军命令各师团不得休整，趁守军还没有组织起新的防御体系，迅速南下夺取衡阳。根据此前计划，中路第68和第116师团没有参加长沙作战，此次将担任夺取衡阳的任务。

左翼第3和第13师团则从浏阳出发，南下向醴陵、萍乡方向进攻，保护第68和第116师团左侧翼。第40师团在夺取宁乡后（实际没有夺取），继续南下湘乡，并以一部协助中路的进攻。

6月20日，军事委员会决心死守衡阳，阻敌深入，两翼则北上出击，切断日寇后方通道。当天，军事委员会向第9战区下达作战命令：以第30集团军（王陵基部）第26、第58、第72军，以及第27集团军（杨森部）第20、第44军击破醴陵方向日寇左翼两师团；以欧震指挥的第37军、暂2军和第3师防守衡山；以第24集团军（王耀武部）一部防守湘乡，另以主力部队向汨罗江、日寇身后攻击，以切断日寇后路。以李玉堂指挥的第10军（方先觉部）和暂54师守备衡阳。

日寇通过空中侦察，已经获悉守军将重兵集结在东、西两线，遂将南下兵力向上述地区集结，准备歼灭第9战区主力。在其左翼，第13师团夺取醴陵后，仅以一部继续南下进攻攸县，主力向东与第3师团靠拢，迎击第9战区第27和第30集团军。6月22日，日寇攻占萍乡，将第30集团军第58军、第72军击退，并重创第26军。

中路第116师团一部转向湘乡，与第40师团会合。6月22日，日寇攻占湘乡，随即转入防御，准备迎击第24集团军反扑。至此，第9战区部署的反击已经失败。

湘中地区的衡阳位于湘江西岸，粤汉铁路和湘桂铁路交汇点，是第9战区后方最重要的补给基地，城内守军是方先觉指挥的第10军。该军于1939年7月，由陕军、中央军各一部组建，首任军长是李玉堂，隶属第9战区。该军此后参加第9战区所有作战，因能征善战，逐步成为国军的头等主力。尤其是在第三次长沙会战结束后，因顽强防守长沙，给予日军重大杀伤，立下赫赫战功，获得了“泰山军”的称号。

1942年3月，李玉堂升任第27集团军副总司令，预备第10师师长方先觉继任第10军军长。由于李、方二人不屑于攀附，第10军虽然战功卓著，却命运多舛。在隶属第9战区期间，因与战区司令长官薛岳关系不睦，多次被第9战区长官部斥责。特别是第二次长沙会战后，军事委员会追究第10军丢失金井的责任，将李玉堂撤职查办，方先觉记过处分。但也因为第10军战斗力强悍，屡屡在关键时刻被薛岳用于关键位置。

长衡会战前，第10军下辖第3、第190和预备第10师，暂54师临时划归该军指挥。其中，第190师是后备师，全师只有一个团。暂54师和第3师第8团驻守衡山。此外，第48师的一个战防炮营、第46军一个山炮连和第74军的野战炮营在城内归第10军指挥。上述部队兵力合计1.7万余人。

在兵力配置上，除衡山的暂54师和第3师第8团之外，第3师主力防御衡阳西北郊；预备第10师防御西郊；第190师防御南郊，暂54师计划从衡山南撤后退守北郊，城东有湘江屏障，没有重兵防守。

6月23日，日寇第68师团渡过耒河，击退暂54师警戒部队。以一部于次日傍晚进至衡阳西南，主力西渡湘江，进至衡阳以南。6月27日，日寇第116师团进至衡阳西郊。随即突破守军第3师前沿阵地，逼近瓦子坪、虎形山主阵地。第68师团主力在城南突破第190师前进阵地和冯家冲主阵地，并攻占机场。第68师团前出至西南一部突破预10师前沿阵地，逼近该师在铁路线设置的主阵地。至此，日寇完成对衡阳的包围。

在向衡阳发动进攻前，日寇也重新调整部署。在湘江东岸，日寇第68师团2个大队部署在机场附近，第58旅团部署在衡阳以南黄沙岭；第116师团第109、第120联队和炮兵第122联队部署在城西和城西南，第68师团第57旅团部署在衡阳西北。

6月28日拂晓，日寇开始向衡阳发起总攻。守军各部在炮火的支援下坚守阵地，并不时予以反击。激战终日，日寇毫无进展。当天交战中，第68师团长佐久间为人被炮火击伤，退出战场。在新任师团战刚到任前，在衡阳地区的两个师团由第116师团长岩永汪统一指挥。

6月29日，日寇继续进攻，仍然没有进展。岩永汪不得不将师团增援给湘乡的第133联队调回到衡阳方向。这样一来，第116师团3个步兵联队和1个炮兵联队全部集中在衡阳西郊，这里也变成了日寇的主攻方向。

7月1日至2日，日寇第116师团猛攻西郊张家山阵地，经过多次反复争夺，张家山阵地被日寇第133联队攻占，衡阳其余阵地仍然被守军牢牢控制。至此，日寇连续5天猛攻衡阳，仅在城西推进了1000米，自身损失相当惨重。当晚，第11军司令横山勇命令暂停进攻，各部转入休整，等待补充兵员和弹药。

趁日寇停止进攻之机，第3师此前驻留在衡山的第8团突破日寇包围圈，冲入城内与第3师会合。第10军因此获得了保卫战期间唯一一次补充。

在此期间，鉴于日寇主要进攻方向在西南郊，方先觉决定在西南构筑第二道防线。防守城南的第190师和第3师第7团扩大防御宽度，接替城西南第一线阵地；第3师主力则部署在纵深天马山、岳屏山、接龙山、五桂岭高地一线。

在衡阳外围双方继续战斗。其间第30集团军曾经实施过反击，一度收复醴陵、萍乡。但日寇第3和第13师团连续攻占耒阳、攸县，并重新夺取醴陵，致衡阳更加孤立。

1944年7月11日，得到炮兵加强和弹药补给的日寇开始发动第二轮总攻，第68师团新任师团长堤三树男到任。日寇进攻的重点仍然在西南郊，第116师团以1个步兵联队、2个野炮兵联队和空军第44战队向暂10师驻守的虎形山阵地发起猛攻。战至次日9时，守军伤亡重大，阵地被突破。第3师组织1个营向日寇反击，双方在阵地上展开白刃战。经过激战，反击部队营长牺牲，所部伤亡3/4，却没能夺回虎形山阵地，残部退守西禅寺。

至7月15日，暂10师和第190师防守的第一线阵地已经多处被日寇突破。二线第3师其间组织多次反击，又收复了一些要点，此时两军阵地犬牙交错，战斗极其惨烈。为了增加防御纵深，方先觉命令190师在城西南构筑第三道防线。

7月16日，第190师放弃一线剩余阵地，撤往刚刚构筑的第二道防线，日寇得以进至衡阳西门附近。

7月17日，日寇在西南方向的进攻仍然进展缓慢，进攻力量再次枯竭。与此同时，第10军因为缩小了防御宽度，仍然可以保持之前的防御密度，所以火力仍然没有减弱。在此期间，日寇第116师团第120联队长被打死，第133联队的3个大队长也相继被击毙，该联队各大队所剩兵力平均不到100人。7月19日，横山勇再次下令停止攻击。

在此期间，外围仍然没有进展。7月22日，第7战区增援的第62军（黄涛部）抵达战场。军事委员会命令第27集团军副总司令李玉堂进驻该军军部，督促第62向衡阳西南进攻，以解衡阳之围。

同时，军事委员会严令第9战区其余部队：“乘敌后空虚，击破进犯之敌”。但各军连防守都难以维持，无力主动向日寇反击。

不仅如此，日寇情报部门对第9战区调动了如指掌，包括第62军的行动也非常清楚。当获悉第62军向衡阳反击后，即命令第40师团进至衡阳西南方向阻击第62军。同时，第68师团第57旅团归建，一同参加对衡阳的进攻。

7月23日，第62军开始向衡阳攻击前进。该军一度进至城西火车站。但第62军也弹药耗尽、伤亡甚大。日寇第40师团在第62军终止进攻后，立即组织反击，将该军击退。在其身后的第24集团军主力第74、第79和第100军也被阻止在第40师团的封锁线之外。

8月4日，第11军完成第二次整补，各部获得补给和兵员补充后，随即开始向衡阳发起第三轮总攻。此次除第68和第116师团外，第58师团也抵达衡阳，从城西北向守军发起进攻。

战至8月6日，日寇突破城垣进入城内，城内西南构筑的第二道防线也被日寇突破。8月7日6时，日寇集中炮火进行了2个小时的火力准备，然后向守军阵地发起总攻。第10军几乎丧失所有阵地。

当晚，第10军军长派人与日寇联系投降事项。8月8日，第10军军长方先觉、第3师师长周庆祥、第190师师长容有略、预10师师长葛先才、暂54师师长饶少伟在城南天主堂向日寇第68师团长堤三树男正式缴械投降。随同上述人员缴械的还包括4000名战斗人员和9000多名伤员。一些不愿意投降的官兵继续在城内抵抗，最终为国捐躯。

至此，长衡会战结束。此役第9战区伤亡被俘9万多人，日寇伤亡6.6万人。

第10军军长方先觉被俘后，被关在衡阳监狱。3个月后，在伪衡阳县自卫司令王伟能等人的帮助下逃出衡阳。随后又经第19师派部队护送，顺利抵达重庆。抵达重庆后，方先觉被任命为第36集团军中将副总司令，并受到了重庆各界人士的热烈欢迎，各大报纸亦争先报道其脱险经过。

1945年1月，方先觉被任命为青年军第207师师长，不久又转任第206师师长，从此再也没有得到重用。这样的结局，在战场上投降将领中已经难得。

1944年底，军事委员会以8000多名旧部重建第10军。但该军已经不复当日雄风，从此淡出国军头等主力序列。