梅列茨科夫五十年的军旅生涯中，前二十年可谓是顺风顺水，一路晋升为大将，并执掌总参谋部。也许是仕途太顺，当战争来临前，他遭遇了一生中最大的磨难。当他从内务部的监狱中走出来的时候，梅列茨科夫行事变得更加小心谨慎，但这却让斯大林对其越来越反感。
1941年12月9日，苏军统帅部组建沃尔霍夫方面军，梅列茨科夫被任命为方面军司令员。方面军负责的防线是列宁格勒以东、沃尔霍夫河一线。统帅部交给梅列茨科夫的任务是在1941年冬季反攻期间，主动向德军发起反击，从东面策应列宁格勒守军。
当时战场上的大背景是苏军正在莫斯科发起反攻（12月5日），西方面军和加里宁方面军已经取得了一些进展，德军中央集团军出现溃败的迹象。南方战线的情况也趋于稳定，铁木辛哥将德军南方集团军群阻止在北顿涅茨河和米乌斯河一线。
北方战线的情况很严峻，在不久前刚刚结束的季赫温攻防战役中，苏军将德军北方集团军赶回了沃尔霍夫河，但列宁格勒仍然处于围困的状态——陆上联系与外隔绝，城内物资奇缺，每天都有几百人饿死。
冬季的来临，战场局面的改观让斯大林对接下来的作战增添了很大的信心，他给梅列茨科夫制定了一个小目标，给整个北方战线的部队制定一个大目标。小目标是沃尔霍夫方面军在列宁格勒方面军第54集团军的配合下打通列宁格勒与外界的陆地联系；大目标是将德军北方集团军群击退，彻底解除列宁格勒的威胁。
与统帅部雄心勃勃的目标相比，担负反攻重要角色的沃尔霍夫方面军就没那么雄壮了。新成立的方面军有4个集团军，分别是第4、第52、第59集团军和第2突击集团军。其中担任战役主要突击任务的第2突击集团军和第59集团军还没有抵达战场，方面军刚刚组建，后勤部门还没有成立，前线物资奇缺，部队调动也非常困难。
有意思的是第2突击集团军的司令员叫索科洛夫，这个人是内务部出身，跟几个月前对梅列茨科夫刑讯逼供的那些人是一条道上的。这个人也不争气，他几乎很少去前线，整天在司令部里发号施令，是大清洗后苏军“政治经验丰富、军事指挥低能”的典型。在战役发起前，梅列茨科夫在征得斯大林的同意后将其解职，也算报了一箭之仇。
按照统帅部的要求，沃尔霍夫方面军要马上投入反攻。可方面军困难重重，刚刚进行的季赫温战役消耗了大部分物资，部队储备的弹药不到所需的1/4，粮食极度匮乏，第2突击集团军只到位了1个军。当面的德军则得到了补充，而且可以依托沃尔霍夫河西岸的有利地形。
梅列茨科夫在12月中旬和下旬尝试两次攻击德军沃尔霍夫河防线，都没有取得有效进展。在这种情况下，他命令第4和第52集团军停止进攻，等待补充人员和兵器。同时他向统帅部请求暂缓发起新的攻势，得到了统帅部的准许。
到了1942年1月初，梅列茨科夫仍然受困于后勤补给，没能做好反攻的准备。此时，苏军在莫斯科方向已经向西推进了200多公里，将战线保持在勒热夫、奥廖尔、库尔斯克一线。相比之下，梅列茨科夫还没有动手，这让斯大林很不满意。他严令梅列茨科夫，务必在1月13日前发起攻击。
苏军的反击设想并不复杂，沃尔霍夫方面军主力和列宁格勒方面军第54集团军将实施一次南北夹击，双方约定在柳班会师，将驻守沃尔霍夫河一线的德军合围或击退。达成这一目的后，苏军将继续向西推进，从而解除列宁格勒的围困。
战役发起后，苏军一开始的进展缓慢，沃尔霍夫方面军3个集团军都在各自进攻地段都没能突破守军防御。直到1月17日，第2突击集团军击穿了德军纵深防线，开始向柳班急进。
苏军在沿途不断遭到德军的阻击和侧击，至1月底，第2突击集团军距离柳班只剩下20公里。与此同时，列宁格勒方面军第54集团军也正南下攻击，两军最近时仅相距不到40公里。
德军的兵力并不处于劣势，而且他们是内线作战，两翼的友军可以很快向这里增援。苏军则不同，梅列茨科夫的家底就这么多，打到1月底的时候他已经无力继续向前推进。他向统帅部递交了一份报告，陈述了方面军兵力不足的现状，希望能够给他调来更多的部队。但统帅部并没有对沃尔霍夫方向的战况引起足够的重视，而是继续要求他们加强进攻。
无奈之下，梅列茨科夫将第4集团军的一个师从防线上抽出来，加强给第2突击集团军。然后要求他们继续向柳班进攻。此后苏军的进展非常有限，距离柳班最近的时候还只剩下15公里，进攻再次陷入停顿。
德军对这支深入己方腹地的苏军相当忌惮，在第2突击集团军突击的正面和两翼，都投入了大量部队，试图关闭突破口，进而将其围歼。在此情况下，第2突击集团军不得不停止进攻转入防御。期间，该集团军的突破口曾两度被德军切断，梅列茨科夫及时从战线上抽调出部队，又两度恢复了和第2突击集团军的联系。
4月底，列宁格勒方面军司令员霍津提出，北方战线各方面军应该统一指挥，这样才能形成合力，解除列宁格勒的困境。统帅部采纳了他的意见，下令沃尔霍夫方面军撤销，所辖部队全部纳入列宁格勒方面军的战斗序列，继续执行柳班战役的既定目标。同时，斯大林任命弗拉索夫出任第2突击集团军司令员，希望他能够打破僵持的局面。梅列茨科夫则被调到西方面军，降职出任第33集团军司令员。
在和霍津交接工作时，他善意地向霍津提出了自己的意见。他认为当前局面下，苏军如果继续进攻，就必须向突破口投入有力部队，否则他建议将部队撤出来，以免再次陷入险境。
他的意见没有被霍津采纳。
6月初，第2突击集团军被德军包围。与此同时，苏军在南线也遭遇了一系列的惨败。恼怒的斯大林撤掉了霍津的职务，后者以后也没有得到过重用。梅列茨科夫再次返回北方战线，继续担任恢复番号的沃尔霍夫方面军司令员。
重新接手沃尔霍夫方面军后，梅列茨科夫千方百计想要挽救被围的第2突击集团军。他以3个步兵旅和一个坦克集群组成突击集群，重新打通了和第2突击集团军的联系。第2突击集团军一部分部队得以突围，但集团军主力仍被德军围歼。在突围期间，第2突击集团军阵亡6000余人，3.2万人被俘。集团军司令员弗拉索夫被德军俘虏，不久叛国投敌。
柳班战役结束后，希特勒决定加强围困列宁格勒的德军，并在铁路运力紧张的情况下，从南部战线将德军第11集团军的一些部队调到遥远的北方战线。包括800毫米口径巨炮在内的一些超级火炮也被部署到了列宁格勒方向。同时，出于对北方集团军群司令的指挥能力不满，希特勒决定让克里米亚的征服者一曼施坦因来指挥这次战役。
就在德军调兵遣将之际，苏军也在筹划新的攻势。按照苏军统帅部的要求，戈沃罗夫的列宁格勒方面军和梅列茨科夫的沃尔霍夫方面军于8月发起进攻，向姆加和锡尼亚维诺方向实施冲击。这次攻势的目的有两个，首先仍然是希望能够解除德军对列宁格勒的围困；即使没能达成目标，至少也不能让德军北方集团军群抽调出部队南下投入到斯大林格勒或高加索方向。苏德统帅部在这次的决策中高下立判，德军从南面抽兵北上，苏军则打算死死拖住北线的德军。
8月，双方继续展开激战。苏军一度突破了德第18集团军阵地。德军顿时陷入危险境地，被迫调来大量援兵，并将原本用以攻击列宁格勒的第11集团军投入反击。这些举措迫使沃尔霍夫方面军在10月初结束了这次进攻。此役苏军“列宁格勒解围计划”落了空，但德国人因为兵力和弹药遭到严重消耗，攻打列宁格勒的计划也同样破产。
战争进入第三个年头，苏德战场的焦点在乌克兰，中部战线也爆发了几次大战，而北方战线要平静得多。整个1943年德军在列宁格勒方向都以围困为主，苏军也不必发动以“战略牵制”为目的攻势。在此期间，梅列茨科夫的沃尔霍夫方面军兵力变化不大，方面军下辖第8、第54和第59集团军，兵力约26万人。
方面军的友邻则实力雄厚，北面（右翼）戈沃罗夫的列宁格勒方面军兵力约50万人，左翼波波夫的波罗的海沿岸第2方面军兵力也超过40万人。在东线苏军已经转入全面反攻的背景下，统帅部也开始筹划北部战线发动一次决定性的反攻，彻底解除列宁格勒的围困。
1943年秋，苏军统帅部要求上述3个方面军上报反攻计划。9月14日，梅列茨科夫提出，从诺夫哥罗德以北突向卢加，协同列宁格勒方面军歼灭第18集团军的作战计划。无独有偶，戈沃罗夫提出的计划也是两个方面军围歼德军第18集团军。总参谋部将两个方案合并，并做了一些调整，并把波罗的海沿岸第2方面军纳入新的作战计划之中。
这样一来，两个方面军的局部方案，就演变为西北方向全部三个方面军参加的规模宏大的联合进攻计划，作战对手也变成了整个北方集团军群。目标是完全解除对列宁格勒的围困，夺回列宁格勒州，打开通向波罗的海地区的道路。这就是苏军战史上的“1944年第一次打击”。
沃尔霍夫方面军接受的任务是集中方面军主力在德军第18集团军右翼与第16集团军的结合部发动进攻；与在德军第18集团军左翼端部发动反攻的列宁格勒方面军部队形成夹击之势，逼迫德军第18集团军从列宁格勒方向撤退，如德军坚守则就地歼灭。达成第一阶段目的后，苏军将继续追击溃退的德军，尽可能地将他们驱赶到远离列宁格勒的地区，彻底改善北方战线苏军的被动局面。
沃尔霍夫方面军担任主攻的是得到加强的第59集团军，除了在正面摆开了4个军负责突击外，梅列茨科夫还要求第59集团军司令员科罗夫尼科夫组建了一个加强师的突击集群。在进攻发起前，这个集群趁着暴风雪穿过无人防守的伊尔门湖，渗透到德军的身后。
1944年1月14日，苏军两个方面军在各自方向同时打响了列宁格勒反攻战役（列宁格勒-诺夫哥罗德战役）。让人唏嘘不已的是，德军的兵力并不处于绝对劣势，北方集团军群兵力超过70万人，但是他们的战斗意志似乎在过去的一年中被消磨掉了（德军在克里米亚半岛的第17集团军和在涅韦尔的第3装甲集团军也存在同样的情况）。苏军反攻的进展相当顺利。1月17日，第59集团军的2个突击集群会师，突破了德军的所谓“高速路防线”。德军不得不从列宁格勒方向全面撤退，而且这种撤退在不久就变成了溃败。德军起初还打算在卢加河一线重新组织防御，很快就又一次被苏军突破。
最终，德军北方集团军群撤到楚德湖一线。经此一役，德军后撤了220~280公里，列宁格勒的围困彻底解除。
梅列茨科夫在此期间的一项安排被人诟病，他将方面军右翼的第8集团军部队划入第52集团军，司令部则调到左翼，把成功突破德军防线的第59集团军4个军一分为二，其中2个军编入第8集团军。这次变动发生在第59集团军刚刚突破德军“高速路防线”后，梅列茨科夫对这次安排的解释是可以加强与友邻的联系，并提高部队的灵活性。实际上，梅列茨科夫此举给前线部队造成了一定的混乱。他的这项安排后来被别人视为突出方面军在战役中的作用，以凸显自己的军功。
此役结束后，梅列茨科夫的沃尔霍夫方面军于2月16日撤销，方面军司令部人员调回大本营预备队，梅列茨科夫则改任靠近北极的卡累利阿方面军司令员。
统帅部给出了撤销沃尔霍夫方面军的理由是经过一系列的反攻，战线已经大幅缩短，不需要太多的方面军战斗序列。值得玩儿的是，2个月后，苏军统帅部又在列宁格勒方面军和波罗的海沿岸第2方面军之间组建了波罗的海沿岸第3方面军，改由马斯连尼科夫出任方面军司令员。
被“发配”到卡累利阿方面军的梅列茨科夫马上就领受了新的任务。根据副总参谋长安东诺夫制定的“维堡-彼得罗扎茨克战役”计划，卡累利阿方面军和列宁格勒方面军北翼集群展开联合行动。战役目的是将列宁格勒以北的芬兰军队赶回到新国境线（苏芬战争后的国境线），收复维堡和彼得罗扎茨克，迫使芬兰战败求和并退出战争。
卡累利阿方面军的任务是在拉多加湖东岸至奥涅加湖西岸之间发起进攻，在攻取彼得罗扎茨克后，与列宁格勒方面军所属部队突入到芬兰腹地。参加此次进攻的部队是方面军左翼的2个集团军，约20万人；列宁格勒方面军投入北部集群的2个集团军，约18万人；波罗的海舰队、拉多加湖区舰队、奥涅加湖区舰队6万人配合行动。
进攻首先在左翼列宁格勒方面军方向发起，1944年6月10日，戈沃罗夫的2个集团军在波罗的海舰队的支援下开始进攻芬军。10天后，苏军突破曼纳海姆防线攻取了维堡。
右翼的梅里茨科夫没有在同一时间转入进攻。6月18日，芬军在曼纳海姆防线丢失了第二道防御地带，不得不在梅列茨科夫的当面后撤，以防止被苏军包围。6月21日，梅列茨科夫命令部队转入进攻。6月28日，方面军所属第32集团军解放彼得罗扎茨克，两个方面军随后开始向西进攻。7月9日，苏军全线推进至新国境线。9月19日，芬兰总司令曼纳海姆与苏联达成协议。以支付战争赔款、割让领土等条件退出了战争。
梅列茨科夫在东线指挥的最后一次战役是北极圈内的佩特萨莫战役。当面德军是第20山地集团军，由伦杜利克指挥，兵力约20万人。德军在这里部署一支重兵的目的有三个，其一是威胁苏联的北冰洋航线；其二是守护佩特萨莫的镍矿区；其三是威慑芬兰，使其继续留在轴心国阵营。
1944年9月，希特勒下令执行“北极光”行动，计划将第20山地集团军撤出芬兰。截至10月初苏军发动进攻前，驻守在佩特萨莫地区的德军只剩下第19山地军，兵力约5.6万人。
早在德军执行撤退前，梅列茨科夫就请示统帅部，由方面军右翼的三个集团军向德军发动进攻，但斯大林没有同意。9月29日，德军的2个军已经撤退至瑞典境内，只留下第19山地军，而且也正计划运走重要物资后撤离，斯大林这时又开始催促梅列茨科夫尽快发动进攻。尽管心中有怨气，梅列茨科夫仍然不敢怠慢，在不久前的维堡-彼得罗扎茨克战役中，戈沃罗夫在战后晋升元帅，而自己仍然还只是大将。这一战很可能是自己获得晋升的最后一次机会。
北极地区特殊的地貌和天气，整体上都不利于各军兵种展开进攻，对防御一方却好处多多。1941年德军向这里进攻时，苏军正是凭借这些有利条件挡住了德军的前进步伐。现在转入防御的德军也一样可以充分利用这里的地形和气候。
首先要解决的是战前物资储备的问题，道路的匮乏使得一线部队获得补给变得困难。梅列茨科夫命令后勤部门组建马队和北极特有的麋鹿队运输物资。为了快速通过战场上的河流，方面军提前准备了舟桥、登陆舟和水陆两栖汽车。同时，他一反北极作战的常规，集中了相当数量的重型坦克，用来突破德军用3年多精心构筑的防御工事。
担任此次战役进攻的是方面军第14集团军，兵力9.6万人，装备有110辆坦克和自行火炮，另有700多架飞机支援作战。无论是兵力还是兵器，苏军都有绝对的优势。除了正面进攻外，梅列茨科夫还计划以一个军在战线左翼插入，他要求这个军秘密推进，不要和德军纠缠，直接插向几十公里外的佩特萨莫，截断德军第19山地军的退路。
1944年10月7日，苏军转入进攻。战役发展得很顺利，正面进攻的苏军顺利地度过季托夫卡河，德军被迫向后撤退。同时，负责穿插的第126步兵军成功渗透进德军防御纵深。
10月10日，第126军和紧跟其后的第127军突然出现的德军身后，德军第2山地师和第6山地师陷入合围。苏军的合围刚刚形成，德军从瑞典调来的增援部队也抵达，他们于10月11日展开反击，将被围的德军救出了包围圈。10月15日，苏军夺取了德军主动放弃的佩特萨莫。
此后，苏军继续展开追击，并进入到瑞典境内。10月25日，苏军夺取巴伦支海沿岸的希尔克内斯港，这里是德军的一处重要的海空军基地。另一支南下的苏军第31步兵军最远推进至瑙齐。德军在撤退的沿途执行焦土政策，让瑞典人品尝到了战争的滋味。不久之后，瑞典宣布停止向德国输送铁矿。
佩特萨莫战役苏军歼敌数量有限，德军损失兵力1.2万人，苏军则损失了2.1万人。这样的战果放在东线的主战场上微不足道，可苏军攻入了瑞典境内，为苏联赢得了一些声誉。斯大林也借着这个机会圆了梅列茨科夫的元帅梦。就在他攻取希尔克内斯港的第二天，1944年10月26日，苏军统帅部晋升梅列茨科夫为元帅，他成为战时晋升的第九位苏联元帅。
让他有些尴尬的是，他指挥的卡累利阿方面军不久又被撤销，所属部队划入列宁格勒方面军。其本人也调回苏军统帅部预备队。
梅列茨科夫在二战期间参加的最后一次战役是远东战役。战役发起于1945年8月8日，至8月15日结束，这场战役也因此被称为“八月风暴”或“七日战争”。此役苏军派出了3位元帅和1位大将，分别是华西列夫斯基、马利诺夫斯基、梅里茨科夫和普尔卡耶夫。
坦率地讲，尽管苏军在这次战役中俘虏了日本关东军60多万人，但苏军此战打得并不出彩。也许是几位元帅已经在东线打得疲惫不堪，也许是远东的地形对于他们太陌生。总之这次战役几位元帅的指挥都乏善可陈。
二战结束后，梅列茨科夫先后任滨海军区司令、莫斯科军区司令、白海军区司令和北部军区司令员，并任过高级步兵学校校长。
1955—1964年任苏联国防部部长助理，主管高等军事院校。
1964年4月起任苏联国防部总监组总监。
1968年12月30日，梅列茨科夫因病去世，后葬于红场克里姆林宫墙下。布拉戈维申斯克高级坦克指挥学校以梅列茨科夫的名字命名。
