宿北战役后，薛岳（1896年12月27日－1998年5月3日，国民党一级上将）从枣庄到徐州，摆了个一字长蛇阵，各成掎角之势，其中的核心是马励武（1904年～1963年，国民党中将军衔）部，是鲁南敌军中最强部队。 “先打弱敌”是粟裕（1907年8月10日-1984年2月5日，军事家、战略家，中华人民共和国十大大将之首）的一个基本用兵原则，但对于鲁南之战粟裕决定反常用兵，先打强敌，奇招、险招。 首先歼灭马励武。马励武的整编第二十六师和第一快速纵队均为美机械部队。组建于抗战时期的快速纵队，曾在缅甸战场上征战3年，据说连美国军队都看得起，因此号称“国军精华”和“金刚钻”。 1947年1月2日晚，粟裕比原计划提前两小时，分两路对第二十六师发起突然进攻，当晚就完成了战役合围。马励武对粟裕的作战意图毫无察觉，他悠哉的很。在将前方指挥权交给副师长后，马励武回到峄县（现山东省枣庄市峄（yì）城区）的司令部，参加元旦晚会，看起了京剧《风波亭》。1947年1月2日22点，华野各部队以绝对优势的兵力，从各个方向发起了进攻。经过3个多小时的战斗，驻扎在村庄的44旅的一个营被右纵队全歼。成功切断二十六师退路，阻击了峄县的增援之敌。与此同时，左纵队成功包围卞庄据点，占领了附近制高点，切断了敌二十六师与第三十三军的联系，完成了战役合围与战术分割。 1月3日华野攻入了第二十六师师部。马励武得到消息后，大吃一惊，赶紧命令残队在快速纵队的掩护下向西撤退。残部与快速纵队退缩到一个狭小区域。 1947年1月4日，突然雨雪纷飞，满天纷纷扬扬地飘起了雪花，这是入冬以来少见的天气。雾茫茫的一片，能见度极低。这场雨雪也让第一快速纵队的坦克、卡车陷进了一块块泥潭和沼泽中。叶飞（1914年5月7日—1999年4月18日，中华人民共和国上将军衔）、陶勇（1913年1月21日—1967年1月21日，中华人民共和国中将军衔）等前线指挥将领迅速抓住这个机会，命令部队从四面八方向前冲锋。坦克部队只能听到漫天地冲锋号角声音，像瞎子一般在公路上乱转。经过4个小时的战斗，到下午3点，华野部队全歼26师44旅、169旅，第一快速纵队共3万多人。缴获坦克24辆和卡车200多辆，鲁南战役第一阶段胜利结束。战役结束后，陈毅老总（1901年8月26日～1972年1月6日，中华人民共和国元帅军衔）挥笔写下了“徐州薛岳掩面哭，南京蒋贼应泪垂”的《鲁南大捷》诗篇。 粟裕准备接下来打冯治安（1896年12月16日—1954年12月16日，国民党二级上将）的第三十三军，但冯见马励武兵败，立刻退缩到运河以南。 1947年1月9日拂晓，粟裕率领一个轻便指挥所，到达峄县、枣庄前线指挥作战。 当晚第八师对峄县发起总攻。第八师将缴获的4门榴弹炮临时组成炮兵连参战。这是华野第一次使用榴弹炮配合攻城，成功压制了城内的炮兵阵地。在炮火急袭的掩护下，第八师又实施连续爆破。1月11日凌晨，第八师攻克峄县，牛哄哄的马励武成了阶下囚。 在围攻峄县的同时，粟裕派陶勇的第一师攻打枣庄，驻守枣庄的是整编第五十一师。战斗力一般，但工事坚固。第一师为华野主力，擅长野战和运动战，但攻坚缺乏经验，不擅长爆破，结果攻城略碰钉子，两次攻城均告失利。 1947年1月14日，粟裕将第八师中擅长爆破攻坚的部队调到第一师，供陶勇调遣，组建了攻城先遣组。先遣组采用古战时“穴地攻城法”，专门挖出一条地道，直通枣庄城墙下，然后通过连续爆破，终于打开缺口，攻入了枣庄城区。1月20日，巷战结束，第五十一师被全部歼灭，师长周毓英以下官兵3700余人被俘。 至此，历时19天的鲁南战役全部结束，共歼国民党军5.3万余人，缴获坦克24辆、各种火炮200余门、汽车474辆。首创华东战场人民解放军一次歼灭国民党军2个整编师(加1个快速纵队)的纪录。