1948年11月初，淮海戰(zhàn)役正式打響。為鼓舞士氣，華東野戰(zhàn)軍文工團的文藝工作者們隨野戰(zhàn)部隊一起開赴淮海前線。

在淮海戰(zhàn)役的第一階段戰(zhàn)，華野部隊沿著徐州以東地區(qū)的隴海線兩側(cè)對從新安鎮(zhèn)撤出的國民黨軍黃百韜兵團展開追擊。國民黨軍隊為了避免覆滅的命運，拼命向西逃跑，人民解放軍則極速追擊，很多部隊急行軍中不起灶做飯，有的部隊?wèi)?zhàn)士們一天只吃一頓飯，且是邊走邊吃。部隊在強行軍中，大多數(shù)時間每天要走130至150華里。戰(zhàn)士們在“敵人跑到哪里，我們追到哪里，就把他們殲滅在哪里”的口號鼓舞下沒有一個人掉隊，緊緊咬住黃百韜兵團，最終將其包圍在碾莊地區(qū)。文工團員韋明，被這一個追擊的場面深深地震撼了，他激動得無法入眠，在油燈下，伏身在門板上寫下了《乘勝追擊》的歌詞：

追上去！追上去！不讓敵人喘氣！

追上去！追上去！不讓敵人跑掉……

這首節(jié)奏明快，催人奮進的歌詞深深打動了時任華野文工團團長沈亞威，他立即動筆，充滿激情地譜寫了曲子，并且邊行軍邊教戰(zhàn)士們演唱。就在部隊到達下一個宿營地的時候，淮海戰(zhàn)場上的第一首歌曲已經(jīng)在部隊中傳唱開了，后來這首歌成為了《淮海戰(zhàn)役組歌》中的第一首歌曲。

在搶占運河鐵橋戰(zhàn)斗中，解放軍戰(zhàn)士們冒著國民黨軍瘋狂的機槍掃射和密集的手榴彈，一次次地抱起炸藥包沖向敵人碉堡，前面的戰(zhàn)士倒下了，后面的戰(zhàn)士抱起炸藥包繼續(xù)前進，最終攻克了敵人據(jù)點。他們大無畏的精神深深打動著文藝工作者們。時任華野文工團音樂股長的陳大熒，懷著對英雄的崇敬，含著熱淚創(chuàng)作完成了歌曲《搶渡運河鐵橋》，后來此曲成為《淮海戰(zhàn)役組歌》中的第二首歌。

1948年11月23日，在黃百韜兵團被殲滅后，一位騎兵通訊兵，騎著奔馳的戰(zhàn)馬呼喊著：“捷報，捷報……全殲黃百韜。”被這種勝利的喜悅氣氛深深感染的沈亞威，僅用2個小時就創(chuàng)作出了《捷報，捷報，殲滅了黃百韜》。

在淮海戰(zhàn)役進行的過程中，隨著勝利的捷報不斷傳來，文藝工作者們情緒高漲，陸續(xù)創(chuàng)作出《挖工事》《狠狠地打》《歌頌淮海勝利》等40余首充滿激情和喜悅的戰(zhàn)斗歌曲，平均不到兩天就誕生一首新歌。戰(zhàn)后，經(jīng)沈亞威等同志集體研究，篩選出10首最能代表淮海戰(zhàn)役各個階段特點的歌曲，組成《淮海戰(zhàn)役組歌》。配上朗誦詞，連成一組反映淮海戰(zhàn)役全過程的聯(lián)唱，這就是響徹全中國的《淮海戰(zhàn)役組歌》。