羊山激戰壹天，蔣介石的第66師被全殲，擊落飛機2架，摧毀坦克2輛，繳獲野炮、迫擊炮28門、各種小炮102門、輕重機槍367挺、手提機槍158支、長短槍2516支、汽車35輛、電臺7部、騾馬420匹。解放軍也傷亡慘重，二縱隊司令員陳再道將軍後來感慨萬端地說：“羊山集這壹仗，是我們打得最苦的壹仗！陣亡的戰士最多！”至此，劉鄧大軍結束魯西南戰役，***殲敵5萬余人，俘敵4.3 萬余人，收復了魯西南地區，從而打開了千裏躍進大別山的大門。
宋瑞珂在以後的回憶錄中說：“由於我頑抗了半個月，使雙方損失都很大，使羊山集人民遭受慘重的損失，延緩了劉鄧大軍向大別山進軍的時日，對國家人民造成嚴重損失，今天回憶起來不能不更加認罪懺悔……劉鄧大軍強渡黃河，旗開得勝，運用集中兵力各個擊破的原則，進行這次戰役還不到壹個月，就殲滅蔣軍九個半旅。這次戰役的勝利，給蔣軍以嚴重打擊。”
戰役結束的第二天，劉伯承伏在油燈下，在黃色粗糙的紙上寫著：“我們勉作毛澤東式的軍人，在政治責任與任務需要上，必須從戰爭中學習戰爭。”劉伯承為此興奮地賦詩壹首：
狼山戰捷復羊山，炮火雷鳴煙霧間。
千萬居民齊拍手，欣看子弟奪城關。