平津沦陷后，张自忠痛悔自己在北平主持冀察事务时逞匹夫之勇的过失和糊涂，不该在错误的时间、错误的地点和日本人进行一场无论是政治还是军事上都颇为错误的周旋。他乔装打扮，只身潜出北平辗转到达济南后，被山东省政府主席韩复矩奉命拘押。
期间，前天津市长萧振瀛专程前去探望，张见而抱之大哭，说“对不起团体，对不起大哥”。尔后他由北平市前市长、二十九军前副军长秦德纯陪同，被押解南京面见蒋介石请罪。张痛悔前非，恳请准其回军前效力，立功赎罪。其悔罪态度得到国民党要员李宗仁、何应钦、程潜、张治中以及原二十九军将领宋哲元、萧振瀛的同情和帮助游说，蒋被说动，终同意张回原部队，以原三十八师师长职兼代该师新升格的五十九军军长。
1938年1月，张自忠五十九军被调归第五战区序列李宗仁指挥，赴临沂一带参加台枣会战，率部在临沂战役中击溃号称“钢军”的板垣征四郎第五师团，揭开台儿庄大捷序幕。
台儿庄大战后，日军增兵包围徐州，截断陇海路，张自忠临危受命，掩护数十万主力突围。武汉会战中，张奉命守卫潢川，重创来犯日军第十师团。战后，张自忠以战功升任第二十七军团军团长，未久又任新组建第三十三集团军总司令。
1940年5月16日，张自忠率部在湖北宜城东北罐子口地区与日军激战，因实力悬殊，第74师和特务营伤亡殆尽，张自忠数次中弹，身被七创，自知不治，弥留之际，对身边人员说：“我力战而死，自问对得起国家，对民族、长官可告无愧，良心平安。”旋拔剑自戕，壮烈殉国。时年51岁。
围攻而来的日军官兵在确认眼前阵亡者是张自忠将军后，片刻欢呼，随即肃穆列队，给山一样伟岸刚卓的烈士行了庄重的军礼。
当晚，根据最高统帅部命令，我军派一个师的兵力强攻落入敌手的阵地，以牺牲二百多名战士的代价，占领该阵地并抢回张自忠将军遗体。
5月21日，李致远将军率手枪队，乘六辆卡车护送张自忠灵柩远赴陪都重庆。将星陨落，举国震悼。张将军灵柩经荆门、当阳至宜昌，沿途皆有各界民众祭奠致哀致敬。到宜昌后停灵三日，23日凌晨四时，灵柩从东山草堂起程前往轮船码头，送灵路祭者达10万之众。清晨6时半，轮船拔锚启航，岸上民众无不哀声怆然，江中船舶停航，肃穆以待，汽笛齐鸣，催人泪下。
5月28日，张自忠将军灵柩抵达重庆。全军举哀，满城悲恸。蒋公亲临致祭，发表致全军将士书，对张自忠一生功过做了盖棺定论：
“……抑中正私心犹有所痛惜者，荩忱（张自忠字）之勇敢善战，举世皆知。其智深勇沉，则犹有世人未及者。自喜峰口战事之后，芦沟桥战事之前，敌人密布平津之间，乘间抵隙，多方以谋我。其时应敌之难，盖有千百倍于今日之抗战者。
“荩忱前主察政，后长津市，皆以身当樽俎折冲之交，忍痛含诟与敌周旋，众谤群疑无所摇夺，而未尝以一语自明，惟中正独知其苦衷与枉曲，乃特加爱护矜全，而犹为全国人士所不谅也。
“迨抗战既起，义奋超群，所向无敌，然后知其忠义之性，卓越异常，而其忍辱负重，杀敌致果之概，乃大白于世。
“夫见危授命，烈士之行，古今犹多有之，至于当艰难之会，内断诸心，苟利国家，曾不以当世之是非毁誉乱其虑，此古大臣谋国之用心，故非寻常之人所及知，亦非寻常之人所能任也。”
此文传至前方，前二十九军将士捧读之余，无不感激泣下。
1982年4月16日，中华人民共和国民政部为张自忠将军后人颁发了“革命烈士证明书”。
