陈锡联和陈再道都直接到前沿看地形，了解情况，重新制订作战方案。
为了加强攻击力量，刘邓首长将野战军榴弹炮营和1 纵炮兵团调到羊山集前线，增强了陈锡联3 纵和陈再道2 纵的力量，形成绝对优势。
7 月22 日天气转晴，黄昏时，2 纵、3 纵向羊山集发起总攻。我军的炮火集中轰击羊身的制高点，陈锡联命令3 纵7 旅和6 纵16 旅一起，向羊山集制高点发起攻击，到22 时占领了制高点。敌军多次组织反冲锋，与我军展开激烈争夺。接着，陈锡联又命令3 纵向羊山集东街发起攻击，战士们攻入东街后，与敌人展开激烈巷战。
经过一夜战斗，羊山集制高点全被我军控制，敌军只控制一些房屋，负隅顽抗。28 日中午，宋瑞珂见阵地已被突破，指挥部也被包围，山上解放军的火力居高临下往他们头上打，认为继续战斗下去只能招致更多伤亡，决定放下武器，停止抵抗。参谋长郭雨林走出房屋接洽投降事宜，得到我方允许后，宋瑞珂及其部下在我军战士押送下向西走出羊山集，历时12 天的羊山集战斗结束。
