7月23日，德军占领了罗斯托夫，克莱斯特指挥德军第一装甲集团军挺进苏联的高加索地区。在最初的几周，克莱斯特的第一装甲集团军攻势凌厉，他的先头部队甚至能以每天50公里的速度进攻。此后，由于斯大林格战役爆发，德军的后勤补给困难，克莱斯特被迫停止在高加索地区的进攻。1943年1月，保卢斯的德军第6集团军已经被分割包围在斯大林格勒地区。

此时，德国A集团军群也深陷在高加索地区，如果第6集团军被歼灭，德军A集团军群的陆上交通线将被完全切断，A集团军群很可能全军覆没。情形危急之时，希特勒任命克莱斯特为A集团军群的最高统帅。在克莱斯特的精心组织和指挥之下，德国A集团军群只损失了少量物资和装备，于1943年2月1日顺利从高加索地区撤退，他也因此而晋升为德国陆军元帅。

1943年7月，苏德两军在库尔斯克爆发会战，德军遭到惨败，大部分坦克等重武器被摧毁。此后，克莱斯特主要在库班、刻赤等地的防线上负责防御。由于希特勒亲自指挥东线，导致德军在东线的行动一直都不顺利，克莱斯特认为希特勒应该任命专人指挥东线的战事，此举惹恼了希特勒。

1944年3月30日，希特勒在授予克莱斯特和曼斯坦因勋章之后，然后宣布解除两人的职务，由莫德尔和舍尔纳分别接替他俩的职务，克莱斯特由此离开德国军队。二战结束后，1946年，他先被引渡到南斯拉夫，被判刑15年。1948年又被引渡到苏联，1954年11月13日，克莱斯特在苏联弗拉基米罗夫卡监狱中病死。