1938年底，朱可夫改任白俄罗斯军区主管骑兵工作的副司令员。和此前担任第6骑兵军军长相比，他的职务并不算提升，但担任军区副司令员可以在战时指挥由4～5个骑兵师和3～4个坦克旅组成骑兵机械化集群，成为独当一面的将领，所以新职务依旧对他有强烈的吸引力。
1939年6月1日，朱可夫正在第3骑兵军司令部讲评刚结束的一场演习，突然接到从莫斯科打来的紧急电话，要求他立即前往国防人民委员会部。朱可夫顾不上回家，直接赶往火车站，踏上最近一列开往莫斯科的火车。抵达首都后，坐上等候他的汽车直奔目的地。
在汽车上朱可夫问负责接他的军官究竟有什么紧急的事，后者只告诉他人民委员伏罗希洛夫正在办公室等他。当他踏进国防人民委员部大楼时，有人则告诉他：“正在给您收拾供远行用的行李箱。”
吃惊的朱可夫走进人民委员的办公室。伏罗希洛夫开门见山地说：“日寇突然入侵蒙古，根据和蒙古的互助协议，我们有责任保卫他们。”
朱可夫还不清楚，就在5月30日，也就是他赶到莫斯科的前一天，苏军总长沙波什尼科夫在专题会议上介绍了苏蒙边境的情况，伏罗希洛夫在会上说：“应该派一个骑兵将领去那里指挥。”总参谋部想到朱可夫是最适合的人选，于是伏罗希洛夫和总参谋部立即形成决议，这才上演了第二天的一幕。
朱可夫在伏罗希洛夫介绍情况时，一刻没有离开地图。伏罗希洛夫最后告诉他此行的任务：彻底弄清哈勒欣河的局势，然后再把下一步行动设想呈报上来。
6月2日下午4时，朱可夫登上东去的飞机。
朱可夫和伏罗希洛夫谈论的军事行动就是我们熟悉的、苏德战争爆发前在中蒙边境地区发生的诺门罕战役。朱可夫此时还不清楚这一战对自己的军事生涯将产生什么样的影响，他只知道这一战他绝不能打输。
哈勒欣河也叫“哈拉哈河”，是中蒙的边界河。日本关东军一直主张“北进”，夺取苏联的远东地区，所以他们不断找机会，制造苏日之间的摩擦。1939年5月，日方声称有700名蒙古牧民侵入哈勒欣河东岸。11日，日军以此为借口，向边界地区的蒙军发动进攻，并将其击溃。至5月底，日军在东岸集结了一支1600多名步兵、900多名骑兵、一小批装甲车和40架飞机。蒙军第6骑兵师奉命开到前沿，苏军则抽调1个步兵机枪营、1个装甲车连、1个工兵连和1个炮兵连配合蒙军行动。
5月28日，日军再次发动突袭，试图从两翼包围哈勒欣河东岸的苏蒙联军。由于日军占有兵力优势，所以一开始处于主动地位，直到苏军炮兵部队抵达，才协助步兵顶住了日军的攻势。5月29日，苏军开始反击，激战一天后，日军被迫后撤。双方第一轮较量至此结束。
1939年6月5日，朱可夫抵达距离前线120公里的独立第57军司令部。他本以为在这里可以了解到前线的最新态势，不料军长支支吾吾什么都说不上来，军政委去过一次前线，简单地向朱可夫介绍了一下情况。
朱可夫向来讨厌做事拖沓，他立即要求军长跟自己去前线，把情况搞清楚，可这位军长担心莫斯科随时可能打电话找他，所以认为自己不能离开指挥部，而是建议让政委陪同他去。朱可夫不想跟这样的指挥员浪费口舌，他质问对方：“你在这么远的距离指挥部队不会感到困难吗？”说完后没等那位军长开口，就动身去前线了。
在接下来的几天，朱可夫仔细勘察了哈勒欣河两岸的地形。苏蒙联军在河东岸的桥头堡与日军对峙，敌人身后向东是密林，可以隐藏部队和后勤补给，日军还可以利用两条铁路和几条土路迅速集结部队。哈勒欣河西岸是一望无际的草原，距离苏蒙边境650公里，只有一条土路相连。很显然日军占有地形上的优势。
日军虽然没有再发动进攻，但他们的飞机整日出动轰炸，甚至不放过每一辆单独行驶的汽车。这表明敌人正在酝酿更大规模的进攻。所以当务之急是必须向前线增援部队。朱可夫向莫斯科急报：必须加强航空兵，压制日军空袭，夺回战场制空权；至少增派3个步兵师和1个坦克旅。
莫斯科立即批准了朱可夫的意见，并任命他为第57特别军军长，全权指挥哈勒欣河一线的作战。
不久之后，雅科夫·斯穆什克维奇率领的一支航空兵抵达，他们带来了伊尔-15和伊尔-16战斗机，以及包括21名获得“苏联英雄”称号在内的飞行员。
双方都在重新集结兵力时，哈勒欣河上空展开了持续厮杀。6月22日至26日，空战进入高潮，最多时双方在空中格斗的战斗机超过200架。日军试图夺取制空权，但斯穆什克维奇率领苏联飞行员严密封锁领空，日军仅在6月底的三次大规模空战中就损失了64架飞机，却没能实现企图。
7月初，拥有地形和运输优势的日军在当面已经集结了三倍于苏蒙联军的兵力，遂决定围歼哈勒欣河东岸的苏蒙联军。他们计划在苏军的左翼偷渡哈勒欣河，夺取西岸制高点巴彦察干山，然后从身后与正面进攻的部队实施东西夹击，彻底肃清东岸的苏蒙联军。
朱可夫准确预判了日军的企图。己方兵力处于劣势，但航空兵和坦克实力占优，而且哈勒欣河西岸的地形特别适合航空兵和坦克部队作战，所以他决定在防御中寻找反击机会。朱可夫的计划是集中手上的机械化部队在哈勒欣河西岸，待日军过河后，地面部队在空军的支援下，以多路向日军部队发起突袭，并一举歼灭。
7月2日，日军渡过哈勒欣河，并夺取了巴彦察干山高地。次日上午，朱可夫命令第11坦克旅从北面、第24摩托化步兵团从西北、第7坦克旅从南面同时向日军发起反击。150辆坦克突然出现在战场上，日军顿时乱作一团，战马拉着火炮四散奔逃，汽车也到处乱撞。
4日，苏军继续进攻，日军则希望通过不断的反击守住阵地，但被苏军航空兵和炮兵击退。随后苏军对巴彦察干山发动总攻，朱可夫叫来第17坦克旅旅长，命令他派一个营渡过哈勒欣河，他对该旅旅长说：“当我们把日军从巴彦察干山击败、滚到渡口时，你用火力和坦克实施敌后突击。”他在交代任务时，特意把“滚”字说得特别重。
旅长有些迟疑，认为这样会造成很大损失。朱可夫说：“损失会有的，明天等任务彻底完成后再统计，也许和战果比起来，那点损失还不算大。”
7月5日，日军被击溃，数千具尸体遗落在战场上，到处是被击毁或压坏的火炮、机枪、汽车。日军残部拼命逃往渡口，企图返回东岸，但浮桥被苏军工兵炸毁，很多日军官兵跳入2米深的哈勒欣河，大多数人溺毙身亡。
苏日双方在哈勒欣河两岸的战斗引起了各国强烈关注。此时英法、德、苏正在谈判桌上进行最后的博弈，德国和意大利的驻日武官就在哈勒欣河前线，他们把情况详细汇报给国内，让希特勒和墨索里尼强烈质疑日军的战斗力。
7月初的战斗结束后，朱可夫判断日军还会卷土重来。他认为目前苏蒙联军兵力不占优势，只能继续采取防御态势。同时他请求继续增调部队，以便发动一次决定性的进攻。斯大林急切希望远东的局势能够尽快平息，好腾出精力应对欧洲局势，所以对于朱可夫提出了要求一并照准，并任命朱可夫为新组建的第1集团军司令员。
整个七月和八月，得到加强的第1集团军兵力已经超过10万人，配备有500辆坦克、300多辆装甲车、500多门火炮和500多架飞机。为了实施进攻，苏军为前线储备了1.8万吨炮弹、6500吨航空弹、1.5万吨油料、4000吨食物和4000吨工程器材。
日军也在加紧向前线增派部队，包括2个步兵师团（第7和第23师团）、3个骑兵团以及一批炮兵部队。至7月底，日军共集结7.5万人、500多门火炮、182辆坦克和300多架作战飞机。
至此，双方在战场上的实力发生逆转，苏军的步兵有1.5倍优势、机枪有1.7倍优势、火炮有2倍优势、坦克有4倍优势、航空兵也有近2倍的优势。
朱可夫为进攻做了精心准备，他的设想是将主力集结在哈勒欣河东岸两翼，趁日军发动进攻前，在中蒙边界线、诺门罕以西合围日军主力，并歼灭之。为此第1集团军划分为3个作战集群，南部和北部集群集中了全军所有坦克和摩托化部队，以及必要的步兵和反坦克部队。中央集群则配备了2个步兵师、1个步兵机枪旅和2个炮兵团。
为了掩盖进攻企图，达成战役的突然性，朱可夫制定了一系列的欺骗行动。他让部下用无线电发送一些有关阵地防御和构筑工事的假消息，还把一架大功率音响搬到前沿，模拟打桩的声音，造成苏军正在大修防御工事的假象。他还命令部队调动时一律遵照提前制定的时间表在夜间进行，并出动飞机、炮击制造噪音掩盖己方调动部队时发出的声音。同时一些坦克和汽车拆掉消音器，来回在前沿走动。起初日军听到声音后，会立即向苏军阵地射击，但过了十几天他们已经习以为常，听到任何声音都不在意了。
作战计划是严格保密的，各部队指挥员只清楚部队下一步的任务，所有从集团军发出的命令都由司令部12名联络员传达，他们领到的指令则由一名特选的打字员统一管理。行动开始前4天，师旅级指挥员才接到有关进攻作战的文件；团营级指挥员在行动前1～2天接到命令；士兵接到命令时距离进攻只剩下3小时。
8月20日星期日，是朱可夫选定的进攻发起日。之所以这样安排，是因为朱可夫已经得知日军高级将领往往会在这一天离开指挥岗位，返回后方休假。清晨5时45分，苏军炮兵开始实施炮火准备，150架轰炸机在100架战斗机的掩护下，向日军炮兵阵地、防御前沿和预备阵地发起空袭。
8时30分，经过三个小时的炮火和空袭准备，苏军沿70公里宽正面发动全线进攻。在两翼，苏军坦克迅速突破日军前沿防御阵地，机械化部队和蒙军骑兵跟在坦克后面冲入日军防御纵深，扩大战果。
南部集群在当天的进展顺利，北部集群则在占领日军前沿阵地后，推进至帕列茨高地时遇阻，经过激烈战斗不得不后撤。
8月21日，南部集群继续扩大战果，第6坦克旅和第8摩托化旅将日军一部合围，然后继续向前推进，歼灭了日军就近部署的预备队并占领日军若干炮兵阵地。战斗进行得很艰苦，日军每一处火力点都需要强攻夺取，有时还需要出动喷火坦克。空军在这一天出动飞机256架次，投弹90多吨。
北部集群的战斗依旧胶着。8月23日，朱可夫将第212空降旅加强给北部集群，终于粉碎了日军防御，夺取了斯帕茨高地。战斗中双方爆发激烈的肉搏战，600多名日军遗尸战场。至此，南、北集群完成对日军的合围。
8月26日，日军增援部队企图冲进合围圈，被苏军击退；8月27日，日军的突围行动被粉碎。在此期间，航空兵出动战机218架次，不仅为地面部队提供的空中支援，还在10次空战中，击毁日军飞机74架。
肃清合围圈内日军的战斗依旧十分激烈，期间双方争夺的要点是一处日军重兵防御的堡垒群。担任主攻的师发动了几次强攻，都被日军的火力压了下来。朱可夫给该师师长打电话，命令他再发起一次进攻，但迟迟不见该师采取行动。于是朱可夫第二次给该师长打电话，得知部队还没有准备好。
朱可夫直接质问对方：“你到底能不能进攻？”得到的答复是没有把握。朱可夫随即对那名师长说：“我现在解除你师长的职务，叫你的参谋长接电话。”
朱可夫问了参谋长同样的问题，得到了肯定的答复，然后他说：“我现在任命你担任师长。”
进攻依旧没有如期发起，朱可夫第三次接通了该师指挥部的电话，然后告诉新任师长：“我解除你的师长职务，等待新师长的到达！”
放下电话后，朱可夫指派一个集团军司令部的参谋去指挥那个师，并给他调去了炮兵部队加强进攻。在付出巨大牺牲后，日军的堡垒阵地被攻克。
日军最后坚守的阵地位于海拉斯台音河（哈勒欣河支流）。这里虽然河水很浅，但到处是泥沼，日军则据守在河边的列米佐夫高地上。日军原指望泥地可以阻止苏军的坦克，但朱可夫命令部队在8月28日夜抢修了河床。第二天拂晓，苏军坦克冲过河去。日军凭据坚固的堡垒据守，苏军则出动喷火坦克，逐一把他们烧死在隐蔽部里。许多日军官兵在绝望中举枪自杀。
战至8月31日，哈勒欣河东岸的战斗全部结束。此役日军损失6.1万人，苏蒙联军伤亡1.9万人。战后包括朱可夫在内的70名苏军官兵获得“苏联英雄”称号。
哈勒欣河战役结束的第二天，德军入侵波兰。由于苏军取得了胜利，希特勒没有在战前跟日本签订军事同盟。不仅如此，日本经此一战放弃了北进战略，使得苏联在整个卫国战争期间没有遭遇两线作战的困境。
返回莫斯科的朱可夫受到了斯大林的接见，苏共高层加里宁、莫洛托夫等人也一并出席。斯大林的情绪很激动，嘘寒问暖。不久之前，他在一次会议上分析了欧洲局势：“法国和英国不想真正投入对希特勒的战争。他们希望怂恿德国同苏联作战。1939年他们拒绝与我们结成反希特勒同盟，意图是不想捆住德国侵犯苏联的双手，但是这会有什么结果呢？他们必将受到惩罚。”很显然，斯大林在消除远东威胁后，显得底气十足。
斯大林问朱可夫：“你认为日军怎么样？”
朱可夫回答：“与我们在哈勒欣河作战的日军士兵训练不错，特别是近战。他们守纪律，执行命令坚决，作战顽强，特别是防御战。下级指挥员训练有素，作战异常顽强。但中高级军官训练差，缺乏主动性，习惯于墨守成规。至于日军的技术装备，我认为是落后的。”
斯大林又问：“我们的部队打得怎么样？”
朱可夫对航空兵、炮兵和坦克兵给予很高的评价，但认为步兵存在的问题比较突出。同时他再次提出应该增加苏军坦克部队和机械化部队规模。
会谈临近结束时，斯大林对朱可夫说：“你现在已经有作战经验了。接管基辅军区吧。把经验用于部队训练中去。”
1940年6月，红军恢复将军军衔制，朱可夫晋升大将军衔。
