1941年3月,74军参加上高会战,上高位于江西锦江上游,俯瞰赣东平原。日军占领上高,既可相机拊长沙之背,又可得到进攻赣南的前进基地。日军采取分进合击战术,兵分三路,企图合围国军主力于高安、上高地区。但南北两路进攻均被击退,中路日军孤军深入,又遭到74军坚强抵抗,3月22日日军集中万余兵力在数十架飞机掩护下猛攻74军云头山、白茅山阵地,74军与日军反复争夺,先后7次与日军白刃肉搏,为友军赢得了集结的宝贵时间。因此中路日军不得不于3月24日黄昏在北路第215联队掩护下开始突围,但25日夜又被国军将突围与增援之敌再次包围,终将其大部歼灭。在全线出击中74军又作为先锋,乘胜追击,收复官桥,击毙日军日军第34师团长岩永少将。整个上高会战,日军第33师团遭到重创,第34师团及独立第20混成旅团伤亡更是高达70%以上,共毙伤日军1.5万,被何应钦誉为 “开战以来最精彩之作战”。

此役74军被第19集团军司令罗卓英评价为“战斗力量坚强”!74军在战役中“拼死力拒,虽血肉横飞、伤亡惨重,仍不稍退,是日一日间敌我伤亡均在四千以上”,战功显赫,荣获国民政府第一号武功状和最高荣誉“飞虎旗”,被誉为抗日铁军。74军军长王耀武和第153旅旅长张灵甫旅表现优异,受到表彰。

上高会战之后,74军作为首批五个军之一换装苏式装备,得到115毫米榴弹炮4门,76毫米野炮8门,37毫米反坦克炮4门,7.62毫米M1910水冷式马克西姆(即“俄国版的马克辛”)重机枪25挺,7.62毫米M1910马克西姆?托加莱和M1928德克恰廖夫(简称为DP型,即常见的转盘机枪)轻机枪70挺。

1941年9月,日军发动第二次长沙会战,目标之一就是寻歼国军主力74军。战役开始后74军奉命开赴沙市街增援,结果被日军情报机关侦悉,日军立即提前发动攻击,集中两个师团夹击74军,74军猝不及防与日军激战两日,57、58师伤亡过半,遭到了巨大损失。尽管此战74军失利,但在与日军遭遇之初,74军在华春山一线仍颇有斩获,并以凌厉攻势一度迫使日军第3师团后退,也显示了中国王牌军的威风。

1943年11月常德会战中,74军57师8000人坚守常德城16天,顽强抗击了日军陆、空、坦的协同攻击,在日军猛烈炮火甚至释放毒气情况下仍死战不退,日军不得不围三阙一,放74军一条生路,此时全师不足600人只有师长余程万率180人突围,其余官兵自愿与常德共存亡,与突入城内的日军逐屋争夺,全部壮烈殉国。6天后余程万就随反击部队又杀回常德,收复常德。此役正逢美、中、英开罗首脑会议,罗斯福总统听取了蒋介石的战况介绍,特意将余师长的名字记在备忘录上。著名作家张恨水就根据常德之战写出一部名叫《虎贲英雄》的小说。常德人民为纪念74军为国捐躯的牺牲将士,自发募捐,于1944年3月在市青年路东侧修建占地达30000平方米的阵亡将士墓地,作为永远的纪念。

1944年1月军长王耀武升任24集团军司令,施中城接任军长。下辖51师(周志道)、57师(李琰)、58师(蔡仁杰)。

1945年5月,在雪峰山战役中,74军再次显示出抗日铁军的雄风,给予日军以重创,获得两面“飞虎旗”。

八年抗战中,74军几乎参加了所有正面战场上的重大战役,尤其是在德安、上高、常德三次战役中表现最为突出,以其英勇顽强的战斗意志,被誉为抗日铁军,连美军顾问团曾有过“中国只有74军能打”的赞誉。

1945年8月,日本投降,74军空运南京受降,并担任南京守备,因此被称为“御林军”。