五原失守之后，傅作义的部队，一直在一个叫亚马赖的小村庄休整。一直到绥河解冻，道路泥泞，导致日军汽车，坦克，重炮行动不便之时，也就是1940年3月20日午夜，傅作义指挥的部队开始反攻五原。

五原分新旧两个城市，日本守军大约有1万人，在旧城是伪蒙的两个师，在新城，只有汉奸杂牌队伍两个师，日本特务机关，警察部队，数量大约有800多人。

而傅作义的第35军，还剩下7000多人，主力是3000多没有受伤的战士，从人数上来看，比较薄弱。于是傅作义又从垦荒旅和游击旅，各调来一部，把生力军提高到5000人。

孙兰峰的部队新编第31师安春山那个团，经过多次的大战，只剩了100多人，这些人可谓是九死一生，是精英中的精英。傅作义让孙兰峰将他们组织起来，成立一个敢死队，负责攻打南门军需仓库。

孙兰峰的新编第31师很多垦荒旅，游击旅直插五原新城。

袁庆荣的第32师攻打五原旧城。

董其武的部队，作为预备队，同时拦截从包头，固阳，安北来的援军。

军直属骑兵团监视伪蒙军骑兵，并派出一支队伍，到乌梁素海附近伏击，从五原撤退的日军。

安春山的敢死队，在城外意外搞定了伪军的一个团，套出了五原的城防配置，还有当晚进城的口令，就这样这100多号人，身穿便衣，潜入城中，开始破坏通讯系统。安春山的部队，很快就占领军需仓库，获得大量的物品，弥补了第35军军需不足的苦恼。

3月21日上午， 孙兰峰的新编第31师，所有的士兵穿上伪军的衣服，趁乱潜入了五原新城，与早已经潜伏下来的便衣队，里应外合发起了攻击。袁庆荣的新编第32师，拔掉了城外的据点后，也开始对五原旧城发起攻击。

一切都不出冈部所料，数百名日本特务、警察被包围于五原，陷入了被全歼的境地。

冈部也无可奈何，只能派出骑兵队，尽快驰援。但是，支援部队半路上就遇到了很大的麻烦，原来反攻五原第一枪还没有打响之前，董其武手下的郭景云，已经带领一支队伍，炸毁了桥梁，并对沿路的日军碉堡进行了清缴。

到了3月21日上午，五原城内的日本特务和警察，开始突围，结果只有很少一部分成功，大部分被歼灭。

日本的增援部队乘坐300多辆卡车，赶到乌加河北岸之后，在工兵的火力掩护下冒死前冲，将修复桥梁。但是郭景云这个团火力太猛了，双方一直打到天黑，日军被射杀400多人，桥梁仍旧没有修好。万般无奈之下，日军只能冒着密集的枪弹，用橡皮艇强行渡江，死伤200多人之后，仍然渡江失败。

拿下五原旧城之后，傅作义下令一个命令：3月21日天黑之前，必须围歼城内所有日军。

五原城内，日军有两个据点：

一个是，特务机关的官钱局，一个是伪蒙军盘踞的屯垦处。

日本占领五原之后，就直接加固据点，所以这两个据点非常的牢固，墙高壁厚，四周还有碉堡，可以形成一个火力网。几个小时的战斗，牺牲了不少中国士兵，仍旧没有拿下。

后来一个连长，想到一个办法，用山炮平射，最终碉堡和围墙被轰倒，中国士兵一拥而上，与日军展开白刃战，五百多名日军被全歼。

由于城内任务，完美收工，董其武的部队也没有在强力阻挡日军，向后方撤退了十里，于此同时，傅作义下令攻城的士兵也全部撤退，日军赶到五原之时，面对的只是尸骨累累的空城而已。

这个时候，中国军队已经走远，也失去了追击的时机，冈部只能下令日军全部撤回。

紧跟其后，傅作义下令炸毁乌加河大堤，河水汹涌北去，淹没了五原到包头的所有公路，日军在水泽中狼狈退去，一部分中国军队继续追击，另一部分中国军队占领五原。

此战之后几年时间里，日军再也没敢西进。