1943年底至1944年初，太平洋战场的局势对日寇越来越不利。美军的空袭打击范围和潜艇的活动范围已经威胁到日寇从东南亚至本土的海上运输线。如果运输线被切断，不仅缅甸生产的石油无法运回国内，部署在东南亚地区的数十万日寇也将被围困在那里，坐以待毙。所以改善交通线成为日寇大本营需要考虑的重要问题。
1943年底，日寇大本营于开始考虑打通从东南亚的越南，经粤汉铁路（广州至武汉）、平汉铁路（武汉至北平）、朝鲜，至本土的陆上交通线，以替代越来越难以维持的海上运输线。在这条陆地线路上，河南、湖南、广西部分地段仍然被国民政府军队控制，所以日寇决心改变自1938年武汉会战以来“维持现有占领区”的作战原则，决定发起一次进攻战役，以打通陆上交通线。
由于兵力不足，日寇于1944年初开始在本土组建新的作战部队。至5月，共组建14个独立步兵旅团和8个野战补充队，划归中国派遣军战斗序列。新组建的独立步兵旅团用于接替各师团守备任务，以便中国派遣军抽调出更多的兵力发动此次会战。
野战补充队用于充实作战期间各部队的战斗兵力的消耗。不仅如此，日寇还从关东军中抽调12个飞行战队，与关内第3飞行师团一同组建第5航空军，加强此次会战的空中力量。
1944年1月24日，日寇大本营下达第921号大陆令，正式决定发起豫湘桂会战。3月10日，中国派遣军制定《1号作战计划》，并下发各军，要求：派遣军于1944年春夏季节，先由华北、继由武汉、华南地区分别发动进攻，击溃敌军，尤其是中央军。并先后占领黄河以南的平汉铁路南段、粤汉铁路沿线要地并确保之。其次，只要情况允许，应攻占南宁、打通桂林至越南凉山之间的通道。
在《1号作战计划》中，中国派遣军将此次会战分为三期实施。第一期于1944年4月开始，使用第12军主力及第1、第11、第13军一部，共6个师团的兵力，对平汉线南段展开作战；第二期于6月开始，计划使用第11军主力以及第13、第23军一部在湖南、广西方向作战；第三期于次年1月开始，第23军和南方军第21师团合力打通至谅山的陆路交通。
第一期作战，即“豫中会战”由华北方面军司令冈村宁次指挥。参加此次作战的包括第12军所属第27、第37、第62、110师团、第3战车师团和独立第7、第9旅团、骑兵第4旅团；第1军第69师团、第13军第65师团和第11军独立第11旅团策应此次行动。实际投入作战的部队兵力为15万人。
1944年4月，新组建的独立步兵旅团陆续抵达华北，并完成换防。同时，计划投入作战的各师团开始向郑州黄河北岸集结。
日寇进攻的豫中属于第1战区防区，战区司令长官蒋鼎文，副司令长官汤恩伯。该战区共下辖8个集团军，分别是王仲廉的第31集团军、李仙洲的第28集团军、陈大庆的第19集团军、何柱国的第15集团军、孙蔚如的第4集团军、刘茂恩的第14集团军、李家钰的第36集团军、高树勋的第39集团军和刘戡兵团。共18个军30万人。
第1战区的左翼是第8战区，司令长官胡宗南，该战区第34集团军（李延年部）防区与第1战区相连。右翼是第5战区，司令长官仍然是李宗仁，其所属第2集团军（刘汝明部）与第1战区相连。
早在1941年10月，第二次长沙会战期间，日寇华北方面军为策应第11军作战，于10月4日攻占郑州。10月31日，日寇主力返回黄河北岸，但为了以后再次南下进攻，华北方面军在黄河南岸邙山头保留了一部分兵力。在此后的2年多时间里，第1战区从未对该桥头堡实施进攻，使该地一直被日寇占据，成为豫中会战守军的严重隐患。
1944年初，第1战区发现日寇在黄河北岸大量集结，并开始修复平汉铁路线上此前被炸断的黄河铁桥，守军判断日寇企图南进。军事委员会随即命令第15、第19、第28和第31集团军沿黄河南岸布防，由战区副司令长官汤恩伯统一指挥，准备在正面迎击沿平汉路南进的日寇。
1944年3月4日，军事委员会下发作战指导方案。在这份方案中，明确使用第1战区和第5战区机动部队26个师，和黄河北岸守备兵力17个师投入作战。作战目的是迎击南下日寇，并协同第6和第9战区之策应部队伺机袭取武汉。
3月14日，第1战区完成部署：中路以第15集团军担任平汉线正面守备、左翼以第4集团军担任河防，右翼以第28集团军守备黄泛区。第12、第13第78军和新编第1师、第20师隐蔽配置于登封、临汝（汝州）、禹县、樊城、宝丰纵深地带，并以1个师防守许昌。后经军事委员会休整，第1战区又加强了许昌地区的守备兵力。
1944年4月17日，日寇第34师团和独立第7混成旅团从郑州和开封之间的中牟渡过新黄河，开始向第1战区防区展开进攻。守军暂15军暂27师（苟吉堂部）奉命抵抗，战至次日凌晨5时，该师第2团阵地被突破，暂5师随即南撤。
此后，日寇第37师团西进，先头部队于19日拂晓袭占郑州车站。独立第7旅团则南下，于当天晚上进至尉氏以北，守军暂15军（刘昌义部）2个师未作抵抗、继续南撤。
在郑州以西的黄河铁路桥方向，日寇第12军主力趁守军将注意力转向中牟、郑州，于4月18日通过修复好的铁路桥前出至黄河南岸邙山头集结。4月19日，第110师团在炮火的掩护下，向邙山头西侧高地摩旗岭守军第85军预备第11师（赵琳部）发动猛攻。
摩旗岭由1个营驻守，守军在此处设置了一处炮兵观察所。如果日寇渡过黄河东进，向郑州方向进攻，部署在摩旗岭附近的守军炮兵将构成日寇侧后的巨大威胁。为此日寇在东进前，必须消除掉这处隐患。
战至中午11时，守军阵地全部被毁，营长以下300余官兵全部牺牲。第85军军长吴绍周命令该师以1个团发起反击，同时命令该师工兵营向摩旗岭增援。经过激战，反击部队遭受重大伤亡，团长余子培身负重伤，反击失利。增援部队也没能守住摩旗岭，该处阵地于当晚被日寇攻占，守军炮兵因此失去威力。
消除掉东进的隐患后，日寇主力分两路推进。其中第62师团向东直驱郑州，第110师团南下取密县。第3战车师团和独立第9旅团随后也通过黄河铁桥，在南岸完成集结，然后向西进攻洛阳。至此，日寇第12军分四路向第1战区防区展开进攻。
战至4月22日，左翼独立第7旅团攻取尉氏；中路第62和第37师团夺取郑州，转而南下夺取新郑、洧川；第110师团夺取荥阳；第3战车师团和独立第9旅团攻取汜水。至25日，日寇又攻占密县、虎牢关。沿途抵抗十分轻微。
战斗进展如此顺利，超出日寇的预期。4月26日，日寇第12军指挥部前移至新郑，并召集各师团、旅团指挥官研究下一步进攻方案。27日，第12军下达新的作战命令：下一阶段的作战目标是夺取许昌。第62师团进至许昌西南颍桥镇一带，截断守军向西南山区撤退和第1战区向许昌增援，尔后南下攻取禹县；第37师团从北、东、南三个方向合围许昌，夺取许昌后，沿平汉铁路向南追击；第27师团向许昌以南的郾城攻击，与第11军北上部队会合，打通平汉线；第110师团保护主力右翼，同时与第3战车师团合力进攻洛阳；第3战车师团另以一部配合第37师团进攻许昌。
与此同时，第1战区正在部署反击。汤恩伯下令自己曾经担任军长的第13军以两个师向东出击，随即与日寇第110师团遭遇，双方经过激战后，第13军的被击退，撤往登封地区，但同时第110师西进夺取洛阳的企图也被遏制。
在许昌，日寇的进攻没有受到第13军反击的影响。4月29日夜，第62师团首先发起进攻，迅速攻占第20师（赵桂森部）在颍河两岸设置的阵地。次日拂晓，日寇3个师团南下，遭遇新编第29师（吕公良部）阻击，双方激战一个白天，守军伤亡惨重，退守许昌城垣。日寇先头部队则进至许昌以西，又迂回至城南并突入城内。
在城区巷战中，孤军守城的新编第29师遭受数倍于己的日寇围攻，于当晚向城东北方向突围，师长吕公良阵亡。5月1日，许昌沦陷。
日寇在进攻许昌期间，华北方面军司令冈村宁次获悉国军第13军正在密县进攻第110师团。早在1939年5月随枣会战期间，时任第11军司令的冈村宁次就曾试图围歼第5战区主力第31集团军，而第13军正是第31集团军的基干部队，但没能如愿。
此次豫中会战，冈村宁次希望能够再次捕捉机会围歼第31集团军。日寇对“重庆军”的判断一直以来都是认为：“一旦核心兵团被打垮，全军就要支离破碎。因此打垮第13军就等于打垮了第31集团军，甚至是整个第1战区所有参战部队。”
因此在许昌方向的战局明朗后，他下令第27师团和第37师团一个联队继续南下，打通平汉线；其余各部队则立即西进，向登封方向攻击前进，捕捉第13军。
负责南下打通平汉线的部队进展仍然十分顺利。第27师团于5月5日攻占漯河、郾城。同时，策应作战的日寇第11军独立第11混成旅团于5月1日从信阳出发。2日进至明港，3日至新安店，同日攻占确山。5月9日，第27师团和独立第11混成旅团在确山会合，将平汉线打通。至此，日寇仅用20多天就完成了会战计划。
在此期间，奉命阻击的第1和第5战区部队仅稍作抵抗就掉头逃跑。尤其是确山以南的第68军（刘汝珍部），在日寇一个旅团北上时，全军3个师几乎一枪未放。
日寇第13军在此期间也以一个师团从安徽凤台出动，由于受到牵制，该师团始终不敢离开防区太远。5月8日，获悉平汉线即将打通，便返回原驻地。
日寇第12军主力转向登封后，各部领受的任务是：第110师团为中路，从北面向登封攻击；左翼第62师团从东面攻击登封；右翼第3战车师团和骑兵第4旅团迂回至汝州，欲切断第13军西撤的退路。
此时第13军已经不在登封，而是部署在登封东南的告成、白沙地区。担任登封守备的是第9军（韩锡侯部），担任汝州守备的是第85军（吴绍周部），两军互成犄角，防御日寇西进。
日寇此后的行动迅速有效，第110师团并未全力南下进攻登封，而是以有力一部西进，切断登封与西面洛阳的联系；第3战车师团于4日攻占汝州，第85军向汝州以南退走，该师团随即向登封以南进击，将守城第9军和第13军的联系切断。
处于四面包围的第9军立刻陷入慌乱，于5月5日从西南方向突围，试图到汝州与第85军会合（该军还不知道第85军已经弃守汝州）。途中遭遇日寇层层阻击，损失重大。在得知汝州已经失守后，该军又向嵩县撤退，于5月7日脱险。
第13军的处境也不妙，在其北、东、南三个方向都有日寇重兵。日寇在登封没有捕捉到第13军，遂向白沙、告知一线搜索前进。5日傍晚，第13军开始向南突围，沿途与日寇第3战场师团遭遇，行动中损失极重。在85军的掩护下，该军才得以脱险，向南面撤退。
至此，第1战区参战部队均被击溃，豫中地区已经大部分沦陷。此间，第1战区连一场像样的战斗都没有打过。
在洛阳方向，策应日寇第12军作战的华北方面军第1军第69师团正奉命计划渡过黄河，在渑池截断第8战区和第1战区的联系。同时，冈村宁次命令第12军主力西进，与第69师团从东西两面夹击洛阳。但第12军不想放弃围歼第13军的机会。该军司令内山英太郎继续命令各部向南追击第13军。
5月12日，日寇第37师团攻占嵩县。5月13日，第3战车师团攻占磁涧。至20日，韩城、洛宁、卢氏相继沦陷。沿途守军一战即溃，洛阳完全陷入孤立，第13军及整个第31集团军溃败到伏牛山地区。第1战区其余参战各集团军撤至闵乡地区，第5战区司令长官部也撤往闵乡的官庄。
日寇围歼第31集团军企图失败，遂将作战目标转向洛阳。驻守洛阳的是第15军（武庭麟部）和第94师（张士光部），共7个团。其中，第65师2个团守备城北邙岭，第64师2个团守备城西，第94师3个团守备城厢。
此时，日寇第12军早已经完成了会战的任务，平汉线已经打通，第31集团军已经溜掉，接下来的作战目标只剩下洛阳。所以，进攻洛阳的部队集中了大量兵力。第110师团和几个独立混成旅团全部集中在洛阳周边。
5月17日，日寇各部完成部署，开始进攻洛阳。5月18日，日寇从四面围攻洛阳。激战一天，仅城北守军第65师阵地力保不失，其余三个方向的日寇全部抵近城垣。但守军坚守城垣不退，日寇多次猛攻却没有取得进展。
5月24日13时，日寇在步、坦、炮、空协同下，向洛阳城垣发动总攻。激战1小时后，日寇从城西北角突入。17时，东北角也被突破，双方展开巷战。18时20分，第15军军长武庭麟下令突围。各部趁天色昏暗，大部分部队突围成功，少数没有接到命令的部队继续在城内抵抗，与日寇逐屋争夺，激战彻夜。5月25日晨8时，洛阳沦陷。
至此，豫中战役结束。日寇伤亡4000人，第1战区伤亡3.2万人，被俘近8000人。
战后，第1战区司令长官蒋鼎文，副司令长官汤恩伯被撤职。在此前抗战中表现可圈可点的汤恩伯至此颓落。
值得一提的是，被日寇颇为重视的第31集团军及所属第13军在抗战早期表现的确亮眼。1937年，该军在南口与日寇激战20余天，歼敌5000余人。不久，军事委员会以第13军为基干，组建第20军团，汤恩伯升任军团长。1938年徐州会战期间，该军团所属第13军和第52军同样表现出色，并于战后升级为第31集团军，隶属第5战区。
自划归第1战区后的2年多期间，起初第31集团军还很受当地民众欢迎，部队移防到豫中时，沿途百姓夹道欢迎。但不久该部官兵便频频骚扰当地百姓，致民众怨声载道。1943年，河南籍参议员在国民政府会议上揭发第31集团军的劣行：强取民间粮食、燃料、蔬菜，杀猪杀鸡分文不给。军队路过沿途，牲口拉走充作军用，贵重物品一律抢走。
在会战开始前，当地民众对他们已经恨之入骨，将其称为“四灾”（即旱灾、水灾、蝗灾、汤灾）之一。
会战期间，第31集团军各部撤退途中军遭到沿途村庄百姓的袭击。第31集团军总部直属队在突围时，遭民众武装包围缴械，汤恩伯亲率的直属队则不断遭到百姓的冷枪袭击，死伤多人。
豫中会战后，第13军不仅名誉扫地，骨干部队损失也极大，战斗力大幅下降，已经不再属于国军精锐部队。
