抗日戰(zhàn)爭爆發(fā)后，任八路軍第129師386旅副旅長，參與指揮七亙村、黃崖底和長生口等戰(zhàn)斗，初步取得了對日作戰(zhàn)經驗。1938年1月任八路軍東進縱隊司令員，4月率部巧妙越過日軍戒備森嚴的平漢鐵路(今北京—漢口)，未受任何損失。東進縱隊進入冀南僅3個多月，即協助冀南區(qū)黨委建立20多個縣抗日政權，部隊也由500人發(fā)展到1萬余人，為開辟冀南抗日根據地和開展平原游擊戰(zhàn)創(chuàng)造了有利條件。1940年初，率冀南軍區(qū)部隊與冀中、冀魯豫兄弟部隊一起，先后兩次實施討頑戰(zhàn)役，給破壞抗戰(zhàn)的國民黨頑軍石友三部以毀滅性打擊。5月任冀南軍區(qū)司令員，參加領導鞏固和發(fā)展冀南抗日根據地。8月率冀南部隊10個團參加百團大戰(zhàn)，對平漢路、德石路進行破襲戰(zhàn)，積極主動出擊日偽軍，殲敵2000多人。1943年到延安，入中共中央黨校學習?？谷諔?zhàn)爭勝利后，任晉冀魯豫野戰(zhàn)軍第2縱隊司令員兼冀南軍區(qū)司令員，率部參加上黨、邯鄲、出擊隴海路等戰(zhàn)役。1946年9月率2縱參加巨野戰(zhàn)役，在龍堌集成功阻擊國民黨第5軍11天，成為此次作戰(zhàn)的模范防御戰(zhàn)例。1947年7月，晉冀魯豫野戰(zhàn)軍強渡黃河后發(fā)起魯西南戰(zhàn)役。他奉命統(tǒng)一指揮7個旅，經過歷時12晝夜的激烈戰(zhàn)斗，占領金鄉(xiāng)城西北的羊山集，殲滅國民黨軍整編第66師，并擊落兩架敵機，繳獲大批槍炮和軍用物資。此舉調動了國民黨軍7個整編師17個半旅馳援魯西南戰(zhàn)場，從而有力地支援了人民解放軍在其他戰(zhàn)場上的作戰(zhàn)。繼而進軍大別山，并與兄弟部隊并肩進行了宛西、宛東戰(zhàn)役。在淮海戰(zhàn)役中，率2縱先后參加了堵截合圍黃維兵團、阻擊李延年兵團的任務，有力地保證了在雙堆集圍殲黃維兵團作戰(zhàn)的順利進行，為淮海戰(zhàn)役的最后勝利做出了貢獻。1949年2月任河南軍區(qū)司令員。組織指揮十余萬部隊徹底清剿匪霸，到1950年共剿滅伏牛山、桐柏山、大別山土匪及國民黨軍的散兵游勇十余萬，穩(wěn)定了中原局勢。

　　新中國成立后，任中南軍區(qū)副司令員兼河南軍區(qū)司令員、人民解放軍武裝力量監(jiān)察部副部長兼武漢軍區(qū)司令員。1972年起任福州軍區(qū)副司令員、中共中央軍委顧問、鐵道兵司令員、中共中央軍委委員。 “文化大革命”中，同林彪、江青一伙進行了針鋒相對的斗爭，蒙受不白之冤。文革后，在任鐵道兵司令員期間，強調抓鐵道兵的全面建設，出色完成了施工生產的各項任務，為國家的現代化建設做出了貢獻。是第一至第三屆國防委員會委員，中共第十一屆中央委員，第五屆全國人大常委會委員，第六屆全國政協副主席。1982年被選為中共中央顧問委員會委員。1955年獲一級八一勛章、一級獨立自由勛章和一級解放勛章，1988年獲一級紅星功勛榮譽章。1993年4月6日在北京病逝。