按八路军总部作战计划 129师在百团大战第二阶段主要目标是取得榆辽战役的辉煌,战役的目的是拔除榆社至辽县(今左权)公路沿线的日伪军据点 并相机收复两城 把胜利的旗帜高扬。
榆辽公路是日军深入太行根据地修筑的平定至辽县公路的前锋段 敌人企图把它再由榆社向西南经武乡与白(圭)晋(城)铁路连接 以实现其既分割太北根据地又能灵活调动正太、白晋两线兵力的妄想。
9月22日刘邓发布了榆辽战役作战基本命令: 决定以386旅的772、16团及决死1纵的25、38团为左翼队 攻取榆社、沿壁、王景3据点;以385旅并指挥新编11旅32团为右翼队 主力攻取管头、铺上、小岭底等据点 一部扼守狼牙山以阻击辽县西援的日军;以太岳军区17及57团组成沁北支队 破击白晋路沁县至分水岭段钳制敌人由白晋铁路抽调增援榆辽地区的军事力量; 以新编10旅分布于和顺至辽县线上破路袭敌并牵制和顺、昔阳动向。
鉴于这次战役主要是攻坚战斗 命令强调如某些据点之敌较久顽抗,则以各种必要手段如强袭、坑道作业等力求克复把敌消灭光。
23日23时 左、右两翼队同时向预定目标冒着据点密集火力发起猛烈攻击 很快攻克沿壁、王景、小岭底、铺上4个据点 在王景村敌堡40余名日军在绝望中自杀身亡,但左翼队386旅主力在进攻榆社时受挫,那里有日军一个加强中队守备 工事、兵器都很强。
772团、16团激战一夜未克 24日下午他们重新組织火力并把山炮拖到城西门旁 进行抵近射击 我军一下子突到了城内 但残存日军利用修建在中学里的核心碉堡继续顽抗,指战员们决定照刘师长指示 经一昼夜把坑道挖到中心碉堡底下 将里面的日军大部炸死 榆社城终于被解放。
右翼队主攻目标管头是榆辽公路上又一较大的敌之据点 进行了重点设防,由于地形所限 385旅一部占领一个碉堡后只留小部兵力围困该敌 大部转至石匣方向 28日攻克石匣 俘日军12人 50余守敌被歼亡。
至此辽县以西据点除管头外均为八路军解放,右翼队32团依托狼牙山阵地 多次英勇抗击住了日军从辽县的西援 使榆辽公路上的攻坚战斗有了可靠的保障。
28日和顺、武乡日军分别向辽县、管头增援 刘邓改变原定攻击辽县的计划转移主力于红崖头、官地垴设防, 准备歼灭由武乡东援管头的日军 此时管头之敌经数日围困已弹尽粮绝 连洗澡水都已喝光。
29日夜 13团再攻管头 工兵设置地雷 部队乘引爆后 墙毁烟起之际突入据点 连扔手榴弹 炸敌 终将管头解放,30日上午9时 由武乡东援日军进入129师预伏地区 385、386旅、决死1纵遂展开了对此敌的围歼仗。
指战员们冒雨连续10次猛攻 歼敌过半 将残敌分别压缩到二、三个山头上,但由于有8架敌机轮番助阵 至30日中午仍未将敌消灭光。
此时刘伯承鉴于由辽县西援之敌400余人突破了32团坚守的狼牙山阵地后沿辽榆公路急进 和顺日军也集中兵力攻占了寒王镇向辽县急进的战况,认为继续围歼武乡东援之敌有腹背受敌之虞 遂报告八路军总部予以批准后撤出战斗 榆辽战役遂告结束 并准备反击敌人的报复性“扫荡”。
破击同蒲铁路的120师22日夜多线出击:独立1旅夜袭忻口及以西楼板寨、奇村等日军据点;雁北支队向原平、轩岗间日军据点出击;120师第8团3营攻击头马营;特务团攻击段家岭车站炮台;工兵连则将黎井到上阳武铁道完全破坏 炸毁一座铁质桥梁,23日夜独2旅攻袭宁武、石湖河两车站 并击退朔县、神池、阳方口3路援敌 控制了阳方口至宁武、宣武 宁武至大牛店及大牛店至忻口间铁道 至此120师各部基本扫除向同蒲铁路开进的路障。
9月24日独1旅破击忻县至原平段 358旅破击原平至宁武段 独2旅破击宁武至朔县段 另以部分兵力破击公路线 袭击敌据点 钳制敌人配合打仗,战至27日同蒲路朔县至原平之间多处铁路、车站、桥梁被毁 该线交通再度陷于瘫痪状况。
八路军持续1个多月的拔点、破路、攻城 沉重打击了日军的“囚笼"政策;但部队连续作战极度疲劳已有大量伤亡,10月2日八路军总部发出命令结束百团大战的第二阶段作战 要求各部队补充兵员、休整部队和深刻总结经验教训 随时准备再打进攻大仗。
百团大战第一、二阶段取得了巨大胜利 使得华北日军一度陷入混乱 军心摇晃,为挽救败局计 40年10月上旬 日军急调华北境内所有机动兵力 对华北各抗日根据地发动了大规模报复性“扫荡”。