「西安事變」和平解決後，1936年12月25日，張學良送蔣介石回南京，被蔣扣留，從此一去不返。近20萬東北軍群龍無首，並在主戰、主和問題上發生嚴重分歧，最後竟發展到內部互相殘殺。

蔣介石是被東北軍扣押在西安的，因此對該部隊深惡痛絕。抗戰的序幕拉開以後，1937年3月，他藉機將東北軍東調。東北軍將領遂鑽入了各軍不相統屬、被蔣介石分割使用的圈套。

從4月到6月，東北軍進行整訓、縮編，由每軍四師的甲種軍縮編成每軍二師的乙種軍編制。於是東北軍離開陝西，分駐豫南、皖北、蘇北地區。整編後的東北軍共6個軍，在戰場上逐漸被瓦解，其結局分述如下。

第四十九軍（軍長劉多荃）

1937年8月中下旬，劉多荃率第四十九軍進駐滄縣及靜海附近，與南下日軍發生激戰，被迫向南撤退。1937年10月底，四十九軍被調到淞滬戰場，損失慘重。蔣介石將該軍一個師劃歸第一戰區的劉峙指揮，四十九軍的一個師就這樣被剝離。1939年，劉多荃作戰失利，由中將軍長降為上校軍長；副軍長高鵬雲、參謀長秦靖宇相繼被蔣介石調離，第四十九軍名存實亡了。

第五十一軍（軍長于學忠）

1937年8月，第五十一軍被調往山東。1938年1月，日軍夾擊徐州，于學忠以五十一軍兩個師的兵力約2.5萬人死守蚌埠，傷亡7000餘人。1939年2月，于學忠被任命為魯蘇戰區司令，指揮東北軍第五十一軍、五十七軍在魯南山區打遊擊。從1939年到1943年，在魯南抗戰的5年中，于學忠部損失甚大。1944年3月，于學忠被免去蘇魯戰區司令的職務，任國民政府軍事參議院副院長，從此失去軍權。國共決戰時期，第五十一軍被改為整編第五十一師，周毓英任中將師長，駐守棗莊。1947年1月，周毓英率部向中共的華東野戰軍投降。

第五十三軍（軍長萬福麟）

「七七」事變後，萬福麟任第一集團軍副總司令兼第五十三軍軍長，負責平漢線以北永定河及大清河一線的防守。在日軍猛烈的攻擊下，萬部損兵折將，被迫退出戰場，在太行山區打遊擊。1943年，五十三軍被編入遠征軍開赴緬甸，展開對日作戰。

第五十七軍（軍長繆徵流）

1937年11月，繆徵流的第五十七軍奉命駐防南通、啟東、海門一線。其一一二師在無錫附近與日軍接戰，師長霍守義負傷，全師撤往江北。12月，一一二師在南京城北長江一線阻擊日軍，傷亡慘重，副師長李蘭池戰歿。1939年2月，五十七軍被調到魯蘇戰區，在敵後打遊擊戰。1940年被撤銷番號。

第六十七軍（軍長吳克仁）

1937年8月下旬，吳克仁率六十七軍奔赴河北大城，構築陣地防守。9月1日，日軍第六師團在飛機、重炮的掩護下，猛攻六十七軍的大城防線。致該軍傷亡2000餘人。1937年10月底，六十七軍參加淞滬抗戰，吳克仁戰歿。六十七軍被縮編為一○八師，撥歸中央軍第二十五軍建制。

騎兵第二軍（軍長何柱國）

1937年8月下旬，騎兵第二軍調晉綏前線與日軍作戰。大同失守後，騎兵第二軍退到晉西北一帶抗日。9月下旬在井坪鎮一役中，騎兵第二軍被日軍擊潰。抗戰勝利後，騎兵第二軍開赴濟南，改編為第九十六軍，原番號不復存在。