军改之前的济南军区54军，就是一支军中劲旅，是全军的总预备队。论实力，54军仅次于38军，也是解放军陆军的三个军级快速反应部队之一。

54军自组建以后，先后参加了抗美援朝战争、入藏平叛、中印边境战争和对越自卫反击战等重大战争战役。

特别是在1962年的中印边境战争中，54军表现非常出彩，全歼印度主力第4军，打得印军溃不成军。印军对54军的印象非常深刻，直到今天，印军的军事演习中，假想敌部队代号仍然是54。

54军下辖的127师，历史悠久，战功卓著，也是54军的主力师。127师先后诞生了多位开国将帅，朱德元帅、林彪元帅、粟裕大将、肖克上将、杨成武上将、耿飙、杨得志上将、黄永胜上将、彭明治中将、吴法宪中将、梁兴初中将、李作鹏中将、王东保少将、张池明中将都在该师工作过。陈毅元帅、罗荣桓元帅、聂荣臻元帅、谭政大将、罗瑞卿大将等将帅也曾在54军从事思想政治工作。

后来曾任中央军委副主席的张万年，曾以127师师长的身份，率部参加对越自卫反击战。

54军有多个下级单位获得荣誉称号：

红军师、铁军——第127师

红军团——第127师第379团、第380团、步兵第162师第485团

叶挺独立团——第127师第379团

瑞金团——第162师第485团

猛虎扑羊团——第162师第486团

刘老庄连——第127师第379团第4连

钢刀连——第162师第484团第1连

金汤桥连——第162师第485团第7连

能攻善守英雄连——第127师第379团第9连

阻击英雄连——第127师第379团第1连

英雄侦察连——第127师侦察连

渡海英雄营——第127师装甲团装甲步兵营

渡海英雄连——第127师装甲团装步一连（原127师381团1连）

2017年，随着军改号角的吹响，54军被撤编。曾经的18个集团军被整编为13个集团军。