解放战争中，刘邓大军挺进大别山之前在鲁西南进行了一系列反攻，最后一战羊山战役极为激烈。可以说是刘邓大军在解放期间所经历最艰苦的一战，这场战争持续了十二天之久，牺牲了近万战士，最终全歼国民党一个整编师。解放战争爆发后一年，国军在山东，陕北的进攻皆遭遇挫折，损失相当惨重。这一时期，中原地区的晋冀鲁豫野战军接连取胜，是我军第一主力部队。当时陈粟的华东野战军仍然处于不利地位，彭老总的西野战军所占领的地盘正在被胡宗南集团挤压，大军能活动的空间越来越小。毛主席和中央军委针对这一不利局面，制定了外线作战的计划，重在消灭国军的有生力量，迫使其停止进攻。如此重要的任务，主席第一时间就想到了晋冀鲁豫野战军，刘邓是我党内优秀的军事指挥家，善于用兵。全面抗日战争爆发后，刘帅担任八路军第师师长，邓公担任政治委员。
两人带着军队奋战在太行山上，多次粉碎日寇的扫荡行动，在百团大战中给予侵华日军沉重打击，随后创立晋冀鲁豫抗日根据地，两人坚决执行中共中央的战略方针，积极组织军队，民兵以游击反攻。抗战转入相持阶段后，两人领导根据地实行生产自给，精兵简政，就这样度过了抗日最为艰难的岁月。这也是我军在抗战之后掌握的最大的根据地，背靠根据地，且有刘邓这样优秀的指挥员，先后取得上党，平汉战役的胜利，消灭国军近六万人，有力配合了中共与国民党的谈判。此次刘邓大军直击的目标为大别山，该地坐落于三省交界处，又能直取武汉，威胁江宁，上海。恰好当时蒋介石正忙于应付华东野战军的进攻，相对之下，对晋冀鲁豫地区的进攻力度明显减弱。蒋介石为阻止我军向南推进，依托黄河天堑摆了一个长蛇阵，然而因为山东地区战事吃紧，黄河沿线守军力量相对薄弱。
于是年六月三十日，刘邓率十二万主力向黄河以南发起奇袭，我军一出手便打了蒋介石一个措手不及。第四绥靖区部队完全没有任何的预防措施，等他们集结好部队，刘邓大军已然渡过黄河。其指挥官是刘汝明，可以说是个“草包”，其能力跟我纵队司令比起来也是相差甚远，因此他虽然手上握着两个整编师，但并不敢与刘邓大军展开正面交战。这一点被刘邓掌握，采取围城打援的战术，沉重打击了国民党整编第五十五师，随后以三个纵队埋伏于敌军必经之路，此时的国军正给予寻找我军主力展开决战，两人果断调整战术，尽力避开敌援军。短短五天便消灭敌两个旅，拿下一座城池。七月十日晚，第二纵队巧妙穿过敌援军的间隙，出其不意占领曹县，同时三纵也抵达定陶以西，深夜十一点六纵攻占定陶。在刘邓的战术布局下，国军显然已经陷入被动境地。
当时顾祝同接过了总指挥权，采取东西合击,要知道我军并无什么交通工具，来回穿插靠的是两条腿，可即便这样，敌两路大军始终抓不到我军，无法探查到我军的具体所在位置。行军期间，敌军之间难免出现间隙，遭到了我阻击部队的奇袭，国民政府先后更改了三次作战计划，还是有部队走着走着被我军围歼。顾祝同干脆下令齐头并进，全面采取防守策略。十日，他判断出刘邓大军接下来的目标是羊山集，六营集一带，当即从东线调动三个整编师，分别是第七十，第三十二和第六十六师，国军依托南北走向排成了一条直线。目前只有整六十六师全数抵达，该军是陈诚的直属部队，在抗战时期算得美械部队，实力强悍。在抗日后期阶段该军被击溃，随后招收大量新兵重新组建，虽然番号没变，但战斗水平不胜从前。
解放时期，蒋介石并未给六十六师分配太多的美械装备，大部分还是以国械为主。且在前期战斗中被我军歼灭了一个团，如今只剩下一千五百人，不过我军收集到的情报显示，该军擅长防守。且六山集，羊山集一带地势险要，消灭六十六师就没那么容易了。国军比我军抢先一步占领此地，师长宋瑞珂是黄埔三期毕业生，自年在陈诚麾下效力，他是为数不多肯实干的将领，在多次战斗中立功，因战功卓越被授予五等云麾勋章。目前他已经掌握我军进攻的特点，深知我军最擅长运动战，因此严令部队避免中计突围。指挥手下人不分昼夜地建立防御工事，使得本就易守难攻的羊山集更牢不可摧。经过两日的休整，军队士气较之从前更旺盛，且物资充足，官兵对此攻坚战充满了必胜的信心。
战斗刚一打响，一纵就迅速突破了敌军防线。敌七十师和三十二师两个连均遭受打击，一纵兵分四路先后拔除三个火力点，主力突破铁丝网冲到了整三十二师左侧，随即和友军展开穿插，分割，切断他们与整六十六师的通信和支援通道。刘邓根据前线部队传来的情报对敌军进行了评估，认为如果能迅速歼灭敌人，就立即行动，如果没有这个条件，全军就休整十天。就在我军节节胜利之时，老蒋亲自前往开封坐镇指挥这场战役，并调动王敬久第五十八师和第旅增援。六十六师凭借城内最大的火力点，与外围的守军紧急配合，在一天之内发起了两次反冲锋，期间陈再道派遣两个团绕至敌后方，但途中位置暴露遭到敌军更疯狂的打击，两个团顷刻间陷入进退两难的境地。
陈再道咬牙撤回部队，但敌人的反攻部队已经追上来，最后牺牲了三十多名战士才突出重围，伤亡人数几乎达到了总人数的一半。因为二纵的退出，三纵也停滞不前。十四日清晨，二纵，三纵被迫撤离战场。刘伯承知道后，来到前线点名批评了陈再道等人。随即重新分析了形势，决定休整两三天再进攻。蒋介石听说宋瑞珂一部反击成功，亲自致电表扬，并且再三严令王敬久集团加紧赶路。整六十六师坚守信心更足了，战况就这样胶着起来。十七日晚，二纵和三纵再次尝试进攻，由于国军不擅夜战，我军推进得还算顺利，但始终攻不破六十六师防线。
耗到天亮之后，敌军展开全面反击，我军反冲锋期间还遭遇大雨，炸药筒等武器因受潮失去了该有的威力，此次我军伤亡更惨重，再次失败而归。之后刘邓又下令采取局部突破，但还是没什么进展。二十三日，刘邓致电主席，决心放弃后方全力突破，得到认可后，刘邓统一指挥第二，第三，第六纵队一部对敌六十六师展开总攻，其余部队阻挡敌援军。此次为我军动用了所有重型武器，炮轰羊山集四十分钟，随即不间断冲锋，一天之内占领所有制高点，经过数小时激战全歼敌一万五千人，援军八千人，扫清挺进大别山前的最后一个障碍。