经过3个月的准备，苏军已经完成了进攻的部署。1945年8月7日，斯大林在莫斯科下达了进攻的命令。8月8日23时，莫洛托夫召见日本大使，宣布：日本是坚持战争的唯一大国，而苏联同意波茨坦公告并决心用战争手段迫使日本接受和平。
8月9日零时起，各路苏军开始从国境线展开进攻。同时，苏空军对长春、哈尔滨发动空袭，远东战役由此开始。
在边境线上，苏军一开始的进攻比较顺利，日寇在边境地区并没有部署太多的兵力。8月9日凌晨4时，马利诺夫斯基指挥的苏军外贝加尔方面军从西北方向越过边境线，中路第17、第39集团军和近卫第6坦克集团军从呼伦贝尔地区的阿尔山实施主要突击，打击关东军第3方面军，目标是攻占奉天（沈阳）和长春；左翼第36集团军从满洲里方向出击，打击关东军第4军，目标是攻占齐齐哈尔；右翼苏蒙骑机集群从内蒙古中东部出击，目标是攻占承德、赤峰，将关东军和关内华北方面军分割。
在东北方向，普尔卡耶夫指挥的远东第2方面军从孙吴、富锦、同江方向越过边境线。方面军右翼红旗第2集团军计划首先夺取孙吴，然后向齐齐哈尔方向突击，与外贝加尔方面军左路一道攻占齐齐哈尔；左翼第15集团军和独立第5军则计划首先夺取佳木斯，然后直插哈尔滨。
在东南方向，梅列茨科夫指挥的远东第1方面军从密山、虎林、东宁一线越过边境线。在夺取牡丹江后，计划向西南方向突击，攻占通化地区，切断关东军撤往朝鲜的退路。
进攻发起后，各路苏军仅遭到小股日寇边境守备部队的阻击，这并没有给苏军造成太多的困难。苏军自进攻开始后，遇到的最大难题是边境地区复杂的地形。
在外贝加尔方面军主要进攻方向，苏军需要通过缺水的荒原，然后翻越大兴安岭；远东第2方面军遇到的是黑龙江（苏方称“阿穆尔河”）、乌苏里江两道天然屏障，以及缺少道路的森林地带。只有远东第1方面军和外贝加尔方面军的左翼情况稍好，可那里有日寇精心构筑的东宁要塞、虎头要塞和海拉尔要塞。
苏军遭遇的一些小股日寇警戒分队人数多则100人，少则30多人。他们表现得倒是十分英勇。有些分队全部战死，还有一些人拼命地向后方跑，目的是给己方报信。
在东部的乌苏里江一线，由于战前连续降雨，沿途河流水位暴涨，一些小河也变得水流湍急。苏军提前做了一些准备，苏联边防军在战前经过专门训练。他们搭乘消音汽艇和小船渡过乌苏里江，首先袭击了关东军的前哨分队，接应苏军各师渡河。在一些地段，苏军的师主力在数小时内就全部过河。
日寇在沿江村镇设立的火力据点阻碍了苏军推进。一些用2米覆土加厚的钢筋混凝土地堡最让苏军头疼，他们只好用自行火炮的正面装甲堵住射击孔，然后再想办法消灭里面的士兵。起初苏军用250公斤炸药放置在地堡上引爆，但是没能炸开；后来改用500攻击炸药，仍然只能炸毁地堡的一角。最后，苏军用3个500公斤的炸药包，才炸毁了顶层的地堡，底层的日寇还是在继续顽抗。
为了肃清边境地区的这些地堡，苏军在向纵深突进的同时，留下6个边防支队和2个海军边防支队，在空军2个航空团的配合下，直到战争结束后的9月5日，才将这些与世隔绝的日寇全部消灭。
当苏军发起进攻时，关东军司令山田乙三并不在长春（关东军司令部所在地），他此时正在大连，关东军的指挥权暂时由参谋长秦彦三郎代理。8月9日凌晨2时，指挥部陆续接到边境地区的报告，秦彦三郎根据各方的情报汇总确定这次苏军不是单纯的边境挑衅，而是大规模进攻。于是他下令各部队依据战前制定的计划开始行动，同时命令各地“铁道联队”炸毁铁路和桥梁。
上午10时，秦彦三郎意识到司令部缺少防空洞，遂打算将司令部迁往长春市中心的南岭，但那里没有提前架设通信设备，司令部只好继续在原址指挥作战。“所幸”苏军也没有空袭关东军司令部的打算。
在当天晚些时候，一片忙乱的关东军司令部收到了日寇大本营的第1374号命令：苏联已对日本宣战；南朝鲜的第17方面军自8月10日6时起归关东军指挥；关东军的任务是“保卫皇土朝鲜”；中国派遣军应调出兵力和物资支援关东军。
这份作战命令有些莫名其妙。它没有要求全部兵力都部署在东北的关东军确保东北，也没有提及撤退，反而强调的是保卫朝鲜。其实这向来是日寇大本营作战命令的风格，含糊其词中给前线将领以超出正常范围的发挥空间。这种方式在有些时候能够让更了解前线情况的将领做出更准确的决定，从而达成意想不到的战果；也会因为前线将领一意孤行造成无法挽回的后果。
8月9日晚，山田乙三匆匆返回长春，他在第二天又收到大本营的指令，仍然强调“保卫朝鲜”。此时参谋长秦彦三郎直接把话向山田乙三挑明：大本营是暗示关东军可以放弃东北，但是不能放弃朝鲜。
含糊不清的命令，让本就行事不够果断的山田乙三有些不知所措，关东军司令部也是一片混乱、人心惶惶。此时在日寇本土也处于恐慌之中。8月9日凌晨，大本营收到苏联对日宣战的消息。上午11时，美军在长崎投下了第二枚原子弹。当天下午，日寇大本营召开了长达8个小时的会议，商讨接下来的对策，没有任何结果。那位日寇名义和实质上的领袖此时已经意识到：整个战争都已经毫无希望了。他在8月10日凌晨向前来觐见的大臣们表达了停战的决心。
领袖的投降决定也意味着关东军对苏作战全盘计划实际上已经作废了。尽管如此，在正式宣布投降前，关东军还必须打下去。实际上自冲绳被攻陷以来到8月初，除了遭受空袭和舰队炮击，以及在中国、缅甸的一些战斗，日寇本土还没有激烈战事。远东战役也就成为日本陆军最后的大规模战役，也是整个第二次世界大战的最后一场大战。对关东军来说，在结局已定的前提下，这不是为了取胜，而是为了完成最后任务。为了这一任务，战火正沿着数千公里的战线燃烧起来。
在战场上，关东军在海拉尔和孙吴地区部署的是上村干男指挥的独立第4军，兵力约6万人。上村干男算不上是日寇陆军中的著名将领，此人在中国战场长期征战，1938年武汉会战期间，担任第3师团第5旅团旅团长，在武汉以北的大别山地区作战。第一次长沙会战期间，第5师团组建上村支队，以右翼部队经洞庭湖水路南下向长沙进犯。1943年11月，他被调到东北担任第57师团担任师团长后晋升为第4军司令。
独立第4军以第123师团和独立第135旅团防守孙吴方向，掩护齐齐哈尔和哈尔滨；以第119师团和独立第80旅团防守海拉尔。在纵深地区则包括第149师团和独立第136旅团，独立第131旅团则驻守哈尔滨。
上村干男的当面是苏军外贝加尔方面军左翼第36集团军和远东第2方面军所属红旗第2集团军，上述部队共计10个步兵师、4个坦克旅和2个独立坦克营，装备了300多辆坦克。按照苏军每个步兵师8000～9000人编制计算，苏军的两个集团军兵力应该在10万人以上。
在孙吴，红旗第2集团军展开了3个步兵师和3个坦克旅，装备有240辆坦克和自行火炮、1270火炮和迫击炮。8月9日5时，红旗第2集团军越过边境线，向孙吴地区的第123师团和独立第135旅团（防守瑷珲）发起进攻。
第123师团兵力14752人，是刚刚组建的师团，战斗力只相当于常规师团的1/3。独立第135旅团兵力约8000人，两支部队再加上附属部队共计2.7万人，由第123师团长北泽贞治郎统一指挥。他们的装甲力量包括一辆废弃的坦克和一辆装甲车。
苏军一开始的进攻相当谨慎，8艘装甲艇在己方炮火的掩护下，渡过黑龙江（苏方称“阿穆尔河”），向日寇阵地实施一轮火力打击后，又退回了进攻出发地。经过反复试探和渗透，苏军开始在对岸建立立足点。至10日，红旗第2集团军在对岸瑷珲、萨哈连、逊克建立了三处大型登陆场。
8月11日起，红旗第2集团军主力开始渡河，向孙吴发起攻击。日寇独立第4军司令上村干男命令第123师团发起反击，但第123师团长北泽贞治郎则认为苏军的坦克集群已经过河，并开始向瑷珲地区急进，己方贸然离开阵地投入反攻，将有极大的风险。一番争执之后，第123师团决定收缩兵力，固守孙吴。
8月13日，苏军突入孙吴以北的武胜屯，将日寇一部围歼。第73和第74坦克旅则从东西两翼向孙吴实施迂回，沿途与日寇激战，进展不大。
红旗第2集团军另一路向嫩江进攻的部队遭遇独立第135旅团的阻击。该旅团非常幸运，一批包括6门105毫米榴弹炮、2门150毫米榴弹炮和4门100毫米加农炮在运输途中经过嫩江时，刚好战斗打响，所以这些重炮就被该旅团留为己用。这些火炮正好用于阻击苏军坦克集群的推进。在苏军渡河期间，日寇的炮火击毁了2辆坦克。随着过河的苏军越来越多，日寇第135旅团一部被包围在二站，主力则向纵深撤退。
8月15日，红旗第2集团军将坚守不退的第123师团包围在孙吴地区。第123师团一面抵抗苏军的进攻，一面忙于储备弹药和粮食，为长期固守做准备。经过几天的战斗，第123师团战死了数百人，还保持着主战力。但在苏军的压力下，孙吴阵地内也是人心惶惶。
在满洲里方向，苏军外贝加尔方面军第36集团军投入7个步兵师、1个坦克旅和2个独立坦克营。为了迅速夺取海拉尔要塞，方面军给第36集团军加强了1个榴弹炮团、2个加农炮团、1个超大威力炮团、1个火箭炮团和3个迫击炮团。
驻守在海拉尔要塞的是日寇第80混成旅团主力，其身后150公里远的博克图是日寇第119师团。海拉尔要塞经过日寇长期经营，构筑了相当数量的半地下钢筋混凝土工事，有些工事墙厚达到2米，入土深2.5米，可以容纳大量兵员。
要塞配备24门山野炮、8门100毫米榴弹炮、28门迫击炮、8门100毫米加农炮和32门高射炮。在苏军进攻前，要塞守军约5500人，分别扼守5个地区。在原计划中，要塞应该由第119师团和第80旅团共同坚守，但第119师团在开战后，被第4军司令上村干男调到了博克图，以加强纵深防御力量。
8月9日晨，苏军经过十分钟的炮火准备一举突入满洲里，然后沿着中东铁路线（绥满铁路）向海拉尔进攻。第119师团一个大队在满洲里坚守，与苏军激战至8月12日，几乎全部被击毙。
苏军主力并没有和据守满洲里的日寇小股部队纠缠，其先头部队第205坦克旅、搭乘汽车的一个步兵团（第94步兵师第152团）和大量炮兵部队迅速逼近海拉尔。8月9日傍晚，苏军渡过海拉尔河，向守军独立第80旅团发起攻击，日寇则收缩到要塞主阵地抵抗。
8月10日，苏军从东面插入守军阵地两翼。此时第36集团军第94步兵师已经陆续抵达海拉尔，空军第12航空军也以1个轰炸师对守军阵地实施空袭。8月11日，第36集团军又有2个步兵师抵达海拉尔，虽然有绝对的兵力和火力优势，但日寇阵地坚固，将苏军死死地拖在要塞地区。
为了继续向齐齐哈尔方向进攻，第36集团军只得留下第94和第293步兵师、2个炮兵旅和4个炮兵团继续围攻海拉尔，其余部队继续向东南方向推进。8月12日，苏军又在博克图遭到第119师团的阻击。
第119师团于1944年11月组建，在关东军普遍是刚组建的师团中，战斗力较强。在博克图外围激战两天后，至8月14日，第119师团主力退往主阵地。
在海拉尔要塞，苏军用重炮向要塞的工事连续轰击，守军的处境逐渐恶化，部分阵地开始动摇。特别是由第586大队扼守的第4地区（守军650人），自8月10日起蒙受严重损失。8月12日，第586大队趁夜色突围。一部撤向大兴安岭方向，途中他们遭到苏军袭击、陷入混乱，不少人死伤逃散；另一部向南移防，在抵达新阵地后，经受不住苏军打击，也被迫退向大兴安岭。
与此同时，第1、2、3地区也分别遭到猛攻。至8月13日，海拉尔要塞几乎完全被围，要塞内的部分日侨在绝望中自杀。但日寇的抵抗仍很顽强。苏军即使付出重大伤亡，还是无法攻破要塞主体。8月14日后，又有部分日寇突围到兴安阵地。
在孙吴、嫩江、海拉尔、博克图激战的时候，独立第4军司令上村干男于8月12日请示关东司令部。他认为：独立第4军防守的北部地区重点应该是哈尔滨，如果军主力在当前地区消耗掉主要作战力量，则第4军将丧失坚守哈尔滨的兵力。所以他建议首先将司令部撤往哈尔滨，然后将各部队也陆续集中在哈尔滨周围，依托地形和城市坚固建筑物与苏军进行巷战。
当天，关东军司令山田乙三批准了上村的建议，命令该军司令部立即前往哈尔滨。8月13日，第4军司令部抵达哈尔滨并立即开始实施已经准备好的哈尔滨防御计划。8月14日，他下令纵深地区的第149师团调至哈尔滨，同时将第136旅团调往齐齐哈尔。正在博克图与苏军交战的第119师团一个支队（1个野炮兵大队和3个步兵大队）南下哈尔滨。一直留守在阿城的重炮联队也收缩到哈尔滨，准备城防保卫战。
经过一番调整，独立第4军几乎一半的兵力都集中到了哈尔滨。上村干男坚信，依托已经要塞化的大都市，哈尔滨完全可以坚守几个月。独立第4军上下也对坚守哈尔滨信心满满，从齐齐哈尔南撤到哈尔滨第149师团甚至在紧急撤退中，把冬季装备也全部运至哈尔滨，显然是决心在这里长期坚守。
但关东军司令部的命令又一次打乱了独立第4军的部署。8月15日，山田乙三命令第4军：大幅向南撤退，退到通化以北的梅河口，确保关东军撤往朝鲜时东侧的安全。这就意味着，刚刚在3天前确定的第4军长期坚守哈尔滨的作战计划已经取消，哈尔滨这座远东大都市因此免于一场战火。
8月15日12时，日寇通过广播发表了《投降诏书》。独立第4军各部也陆续迎来了自己的最终命运。
在孙吴的第123师团正计划在15日晚发动一次夜袭。他们于当天15时收到第4军司令部的电报：收听正午重大广播。因为时间已过，第123师团没有来得及听到广播的内容。一直到17时，师团附属的特情队获悉了投降消息。起初他们还不相信，但随后全世界的广播都在播放这个消息，才确定了消息的真实性。
当晚8点，第123师团向所属部队作了转达。8月16日，师团参谋与苏军取得联系，经过谈判后，双方于次日17时停战。8月17日17时，第123师团及附属部队共1.5万人向苏军缴械。另外的1.2万人中，阵亡人员并不多（据说只有500人）。相当一部分此时已经溃散；也有一部分不愿意投降，被指挥官就地遣散；还有一部分离开部队选择继续战斗。
苏军在孙吴地区还俘获了731部队孙吴支队，他们在731部队部队长石井四郎的授意下，计划在战役期间对苏军实施细菌战。但关东军因为提前知道战争将要结束，最终没有允许他们投入作战。
驻守在嫩江和北安的第149师团和第136旅团此时正在撤往哈尔滨的途中。8月17日，他们抵达哈尔滨，此时日寇投降的消息已经传遍全城。上村干男认为抵抗已经毫无希望，遂命令抵达哈尔滨地区的部队驻守原地，等待苏军接收。
驻守在博克图的第119师团准时收听到了广播。此时该师团一部分守在博克图、一部分已经南下撤往哈尔滨，另一部分正在齐齐哈尔。师团长对广播内容并不怀疑，他认为继续抵抗可能会影响国内局势，遂于8月16日命令部队就近在博克图和齐齐哈尔集结向苏军投降。在这个过程中，一部分日寇仍然与苏军发生激战。至8月18日，苏军在博克图解除了8438名日寇武装，在扎兰屯解除985名。8月19日，苏军第275步兵师进入齐齐哈尔，接受了6000日寇投降。
驻守在海拉尔要塞的独立第80混成旅团收听到广播后却犹豫不决，想等待上级的明确命令。于是又继续战斗了几天，而且战斗进行得非常激烈。8月18 日，第80旅团终于相信战争已经结束，于当天停止抵抗。此时该旅团已经阵亡1000余人，放下武器的人数有3827名，另有一部分人不愿意放下武器，选择了突围……
