刘伯承曾在苏联伏龙芝军事学院学习，还当过红军大学的校长，这让蒋介石非常恼火。不过，尽管心里有气，蒋介石对刘伯承的军事才能还是相当佩服的。蒋介石曾评价刘伯承的战术能力，他提到：在军事策略上，刘伯承堪称中国军界的奇才。1946年，内战还没全面打响，毛主席就提前布局，打算把部队派到外线作战。他计划让军队挺进中原和大别山地区，直接把战场拉到国民党控制的区域，抢占战略先机。
紧接着，毛主席和军委高层开始琢磨，该派哪支队伍来完成这个战略任务？当时，陈毅和粟裕的部队离目标区域，但正忙着对付进攻山东的国民党军，根本抽不开身。经过仔细研究，毛主席最终决定把任务交给刘伯承和邓小平指挥的部队。1946年12月1日，刘伯承和邓小平接到中央的指令，要他们随时准备在鲁南打仗，瞅准机会就突然反击，争取掌握战局主动权。1947年1月18日，中央给刘伯承和邓小平发去电报，指示他们做好5月向大别山进发的准备工作。3月份，胡宗南的部队拿下了延安及附近几个县，陕北形势一下子变得很吃紧。到了7月23日，刘伯承和邓小平接到了中央军委的电报指示。我们决定放弃后方支援，用半个月时间快速挺进大别山，占领周边数十个县城，清除地方武装，动员群众，建立稳固的根据地，引诱敌军进攻，开展灵活机动的游击战。
那年春天，刘邓的队伍过了黄河，蒋介石误以为解放军已经被他的军队逼退到黄河北岸，于是下令修筑"黄河防线"。他自信解放军再也无法跨越黄河，便把原本对付刘邓的王敬久部队调往山东，准备和陈毅、粟裕的部队一决高下。毛主席分析蒋介石的兵力布局像个哑铃，两头重中间轻，觉得这正是刘邓部队从中间撕开口子的好机会，能对改变战局起到关键作用。1947年5月4日，毛泽东主席做出部署，命令刘伯承和邓小平带领晋冀鲁豫野战军独自开辟中原战场。同时，他还提出让这支部队挺进大别山的设想。1947年6月底，根据毛泽东的作战计划，刘伯承和邓小平率领的部队成功跨越黄河，展开了鲁西南地区的战斗。紧接着，按照毛泽东的命令，陈赓和谢富治的部队也渡过黄河，向河南西部、陕西南部和湖北北部推进。经过郓城、菏泽、定陶以及巨野独山集、六营集等几场硬仗，刘邓部队把王敬久手下的32师和70师彻底打垮，还把他的主力66师给包了饺子。
经过多日激战，国民党整编第66师依然未被歼灭。为达成毛主席的战略目标，刘伯承表示：“老蒋送来的肥肉，咱们可不能放过……就算他在开封亲自坐镇，这块硬骨头咱们也得啃下来。”刘邓二人重新规划了战术，增加了火炮支援，让部队在战场上占据了上风。1947年7月27日，刘伯承和邓小平指挥的部队展开猛烈炮轰。经过40分钟的密集轰炸，我军迅速突破敌方数道防线，成功控制关键高地。国民党第66师在师长宋瑞珂指挥下多次反攻，但都被击退。最终，刘邓大军将整编66师分割包围。战斗正激烈时，宋瑞珂紧急向蒋介石求助。蒋介石收到电报后，立刻下令王仲廉部队快速支援，还派飞机给宋瑞珂送去了自己的亲笔信。信中，蒋介石写道：听说羊山战况激烈，蒋介石心急如焚。他托人带话给弟弟，让转告部队官兵和同志们：现在形势虽紧，但必须坚持防守。援军正日夜兼程赶来，很快就能到。希望弟弟相信上帝保佑，再撑一会儿，胜利就在眼前。
两天前，国民党王仲廉的部队已经抵达定陶县的冉固集，离羊山只有100多里。不过，他们担心刘伯承会采用围点打援的战术，所以每天只敢前进10华里。就连靠近宋瑞珂的王敬久部队也躲在原地不敢动，只是不断给宋瑞珂发“马上就到”的电报。宋瑞珂彻底绝望了，完全无视蒋介石强调的"相信神的庇护"，直接对身边人表示："打不赢，守不住，这不能怪我。"7月28日，眼看局势无法挽回，宋瑞珂下令停止抵抗，整编第66师彻底瓦解，宋瑞珂本人也被刘伯承俘获，这场战斗终于画上句号。为了庆祝这次胜利，刘伯承特意写了一首诗。狼山刚打完胜仗，又转战羊山，炮声震天，硝烟弥漫。老百姓都乐开了花，看着自家军队顺利攻下城池。7月29日这天，邓小平在菏泽城北一处普通的农家小院里，接到了毛主席发来的加急电报。电报上标着三个"A"，内容说陕北那边情况很糟糕，毛主席希望刘伯承和邓小平能尽快带兵去大别山支援。
刘伯承和邓小平分析了陕北的形势，认为将战场转移到国统区的大别山至关重要。第二天，他们回复中央，表示将执行毛主席的计划，向大别山进发。邓小平后来回忆此事时提到：毛主席悄悄给刘邓发了封密电，提到陕北情况很糟。我们接到消息后，立马回电说半个月内行动，直接打到敌人后方的大别山。结果不到十天，部队就开拔了。那会儿没有后方支援，困难可想而知。8月6日上午，刘伯承和邓小平在晋冀鲁豫野战军前线指挥部的作战室里，召集了司令部的各处、科干部开作战会。会上，邓小平像往常一样，轻松自如地发表了讲话。毛主席分析了我军挺进大别山的三种可能结果：第一，付出代价后无法立足，只能撤退；第二，付出代价后难以稳固，只能在周边游击作战；第三，付出代价后成功立足。他强调，我们要做好最坏的打算，坚定信心，克服一切困难，争取最好的结果。
刘伯承接过话头说："咱们得把战火烧到老蒋的地盘上去，这样才能彻底打垮他们的重点进攻。这么干虽然不容易，但为了改变全国的战局，再难也得咬牙挺过去。"邓小平接着刘伯承的话说：“咱们得豁出去，别管后方，直接冲蒋介石的老巢大别山，逼到长江边上，威胁武汉和南京。这么一来，战线就从黄河拉到长江了。我们的行动肯定能让蒋介石调兵回援。这样我们就能和其他部队一起，在全国各个战场配合，彻底改变战局。”会议持续到深夜，参会人员畅所欲言，充分讨论。大家最终达成共识，支持刘伯承和邓小平的观点，并决定遵循中央的指示。那晚，刘伯承和邓小平给中央军委发了个电报：“我们决定在八月七日提前行动，全军进行战略跃进！”毛主席收到电报后，心里乐开了花。8月7日晚上，趁着天黑，刘伯承和邓小平带着晋冀鲁豫野战军的十二万主力部队，从巨野和郓城一带出发，直奔大别山。
刘伯承耍了个花招，让第十一纵队带着地方部队在黄河边上晃悠，装出一副大部队要过河的样子，成功骗过了蒋介石。8月11日那天，刘伯承带着部队从虞城跨过陇海路，直奔大别山。蒋介石误以为他们是往南逃，赶紧让鲁西南的20万主力部队连夜追击，想在黄泛区和沙河之间把他们一网打尽。8月17日，刘伯承带领刘邓部队硬是闯过了黄泛区；紧接着在18日，他们顺利跨过沙河，直奔淮河而去。这时候，老蒋才反应过来，刘邓的部队可能要往大别山那边走。他赶紧调了三万多兵过去，全摆在汝河南岸，还下令把河边的船都炸了，想从两边包抄刘邓的部队。8月23日，刘邓军队抵达汝河以北。刘伯承这时察觉到，蒋介石正从前后两面夹击他们。
在危急关头，刘伯承毫不畏惧蒋介石的战术安排。他激励士兵们说："硬碰硬的时候，就得靠胆量……咱们只要够狠，不怕死，就一定能闯过去。"8月24日晚上，刘邓大军的先锋部队成功在汝河上搭起了一座临时浮桥。在炮火支援下，第六纵队的一支部队成功渡过汝河，经过一番激战，打退了驻守南岸的国民党军队，确保了纵队以及中原局和野战军直属部队的安全过河。紧接着，刘邓大军的其余部队也陆续渡过汝河，继续向南推进。8月27日，刘邓大军的主力花了二十天快速行军，成功渡过淮河，面对各种挑战，突破了国民党军队的包围，最终进入大别山区，完成了毛主席下达的任务。毛主席听到这个消息后，开心地表示：“终于等到这一天了！过去二十多年，我们总是被动防守。自从刘邓大军南下，革命战争才首次从防御转为了主动进攻！”
刘邓部队成功完成大别山进军任务后，控制了南京和武汉之间的关键地带，这等于在蒋介石的腹地扎了一根刺，让他倍感难受。刘邓部队深入大别山，不仅让蒋介石头疼，连美国方面也大为光火，直指蒋能力不足。听说刘伯承带兵进入大别山，美国驻华大使司徒雷登立刻急了。见到蒋介石时，他直接表达了美国政府的强烈不满，并失望地对蒋介石说："美国每月砸3000万给你们，结果你们就这么被刘伯承直插要害了？！"
司徒雷登一番话让蒋介石火冒三丈，但更让他焦虑的是战况。他强压怒火，对司徒雷登保证："大使不必担心，我亲自出马对付刘伯承，非把他赶回去不可！"司徒雷登听完蒋介石的承诺，心里直打鼓，完全没当回事。他叹了口气，摇摇头，转身离开了老蒋的办公室。司徒雷登这个美国人对中国挺有研究，他不仅熟悉蒋介石的底细，对大别山那边的事儿也门儿清。早在土地革命时期，红四方面军就在大别山地区建立了鄂豫皖苏区，这是当时仅次于中央苏区的第二大根据地。这意味着，中共在大别山一带已经深深扎根，拥有广泛的群众支持。解放军里不少战士老家就在大别山，这儿还有他们的家人。如今他们重返故土，心情激动，肯定会全力支持解放军。有了这份"人和"的优势，解放军在这儿立足、打开局面就容易多了。
刘邓大军的几位高层军官也在此列。陈锡联，第三纵队的指挥官，正是红安县大别山人。这次返乡，他竟与阔别18年的母亲重逢，真是喜出望外。蒋介石想亲自和刘伯承碰面，甚至打算把他击退，这事虽然有可能，但难度相当大。蒋介石想和刘伯承正面较量，看到刘邓部队刚到大别山还没站稳脚跟，就赶紧从北方调兵南下，准备和刘伯承抢这块重要的地盘。蒋介石撤回大批军队，北方解放区和陕北的紧张局势得到缓解。这一举动实际上是毛主席战略部署的结果，蒋介石只能被动应对。刘邓大军进入大别山后，为了在当地扎根，刘伯承和邓小平迅速敲定了三项严厉措施：伤害百姓者、抢夺财物者、侵犯妇女者，一律处决。同时，他们还推出了“三不”规定：禁止强拉百姓带路，禁止索要群众财物，禁止对百姓动手动口。
刘伯承和邓小平在各级部队——从旅到连——都成立了“纪律检查组”，专门负责监督和推动军纪的落实。刘伯承和邓小平以身作则，严格遵守规定，和普通士兵一起生活，从不搞特殊待遇。老百姓看到后都非常敬佩，和刘邓大军的官兵关系特别亲近。由于纪律严明，大别山甚至出现过"西瓜免费也没人拿"的感人场面。10月初，刘邓大军在大别山待了一个月后，进入湖北，迅速拿下鄂东各县。刘伯承把总部和中原局机关搬到黄安七里坪，控制了黄陂和麻城，对武汉形成直接威胁。看到刘邓部队迅速推进，国民党武汉行辕的程潜急忙调遣兵力，试图阻挡他们的前进。接到命令后，国民党第56师新7旅的旅长立即行动，带着一个团的士兵坐火车赶到了黄陂。他们随后前往麻城的歧亭和新洲的柳子港附近，建立防线，目的是支援麻城那边的整编56师164旅的490团。
10月6日这天，刘伯承和邓小平给中原独立旅下了命令，让他们赶紧去新洲的靠山店，把敌人的增援部队给拦住。独立旅刚到那儿，刚埋伏好，就碰上了从黄陂过来的国民党军孙震的第四团。两边一交手，独立旅就把第四团给打跑了。10月8日那天，刘伯承和邓小平带着指挥部搬到了三店徐王湾村，他们直接把指挥中心设在了村里的王家祠堂，这样能更方便地指挥战斗。那晚，刘伯承带领部队向歧亭西北的敌军发起突袭，成功消灭了驻守的一个营。随后，他们追击逃向柳子港的敌人，几乎全歼了歧亭的一个团和国民党新17旅旅部的主力。这场在麻城歧亭的战斗最终以胜利告终。当天，刘邓大军的第6旅第17团开始攻打李家集。一开始，他们对城墙里的敌人进攻效果不理想。得知情况后，刘伯承让第6旅好好总结，多发动群众，找到敌人的弱点，再调整作战计划。
10月9日晚上，在当地百姓的协助下，部队悄悄摸到李家集东南角，那里城墙最不结实。他们炸开了大地主李锡恒家的院墙，迅速冲进镇里，把守城的敌人全部消灭，打赢了新洲李家集镇这一仗。这样一来，国民党在黄陂和麻城一带的防线被刘邓的部队彻底打垮了。下午，刘邓大军的第三纵队第9旅25团和第8旅主力陆续抵达张家店，准备投入战斗。紧接着，第三纵队副司令郑国仲下达了作战安排。第9旅负责从西面和南面发动主要攻势，调集了纵队的大部分炮火提供支援。与此同时，第7旅的第19团和第20团从北面推进，既阻止敌军向北撤退，又不断向前进攻。第8旅则从东面和东南面发起攻击。根据张家店的地形和敌军的外围防御部署，战斗分为两步：首先清除外围敌军，随后向镇中心发起总攻。傍晚时分，战斗爆发了。到10月10日，刘邓部队在进攻中彻底消灭了国民党88师师部和62旅，造成敌方900多人伤亡，俘获了包括少将副旅长唐家楫在内的4700多名官兵。他们还缴获了3门山炮、几千支各种枪支和大量弹药，皖西张家店的战斗就此胜利落幕。
刘邓部队连赢三仗，直接给武汉敲了警钟。10月12日，中央给刘邓发了表扬电报，这让他们士气大涨，更坚定了在大别山扎根的决心。刘伯承带领刘邓部队再次重创国民党军，消灭了超过12000名敌军，成功赢得高山铺战役的胜利。刘邓的部队在大别山一带干掉了超过3万敌军，还建了33个县级的民主政府。他们基本完成了中央给的任务，成功在大别山扎根。毛主席对此表示肯定。别看蒋介石现在摆出一副很厉害的样子，实际上都是虚张声势。我们这边有刘伯承这样厉害的将领，不出几年，蒋介石肯定会被解放军收拾掉。
1948年11月，蒋介石在南京总统府召集了一次关于大别山战役的总结会议。在这次会议上，老蒋拍板成立“华中剿总”，打算把国民党的海军全拉到长江上，防止刘邓的队伍过江跟他们干仗。这明显说明，他之前跟司徒雷登吹的牛——“大使您别担心，我亲自出马，一定把刘伯承打回去”——现在彻底泡汤了。
