“深度伪造”（Deepfake）犯罪已经引起了韩国女性恐慌。

几日前，有多名韩国女性通过社交媒体发声，称她们在一些社交媒体上，特别是“电报”（Telegram）群组中，发现又一个“N号房”案件，韩国男性疑似大量分享传播伪造的周围女性的淫秽影像。

群组中传播的淫秽影像经“深度伪造”换脸而制成。在付费的“深度伪造”“电报”频道中，男性订阅用户提供女性照片，交钱后由频道通过“深度伪造”技术制成色情传播材料。

8月27日，韩国总统尹锡悦发表讲话时呼吁警方展开彻底调查，以根除此类AI犯罪。

上游新闻注意到，近年来随着社交媒体和AI技术的结合，“深度伪造”技术生成的虚假色情视频在韩国初高中生等未成年人、大学生、教师和士兵等群体中蔓延，在社会上造成非常恶劣的影响。什么是“深度伪造”？这项技术对受害者产生了怎样的影响？韩国政府部门如何应对？对这些问题，上游新闻进行了了解。

“深度伪造”促成新一起“N号房”？

据了解“深度伪造”是一种AI换脸技术，可以将图片或视频中A的脸换到B的头上，其名字由深度“机器学习”(deepmachinelearning)和“假照片”(fakephoto)组合而成，这项技术不需要操作者有多么深厚的专业知识，只要收集到足够素材AI就可以完成。

“深度伪造”换脸效果逼真让人难以分辨真假，这也引发众多伦理和隐私问题。天津大学智能与计算学部教授翁仲铭此前曾在接受采访时表示：“目前Deepfake技术已经很成熟了，主要技术分为两个部分，自动编码器和生成对抗网络。”据报道，利用“深度伪造”技术，一个对视频剪辑一窍不通的外行只需一个强大的GPU(图形处理器)和上百张人物样图，输入至少一个算法就能完成人脸交换并且可以制作出非常逼真的视频效果。“普通人在经过一段时间的学习以后完全能够掌握这项技术。”翁仲铭感叹。

“深度伪造”AI换脸示意图。光明网

经过韩国警方和记者调查，“深度伪造”犯罪和“N号房事件”一样将特定职业女性性对象化，女兵、女教师、女护士成为非法合成色情图频的目标，出现了“女教师房”“护士房”“女兵”等群组。最近，以女性家人为对象的“家庭房”“近亲房”等也相继被发现。

在付费的“深度伪造”“电报”频道中，男性订阅用户提供女性照片，交钱后由频道通过“深度伪造”技术制成色情传播材料。某些群组甚至要求参与者进行现役军人身份验证，并通过向受害者发送伪造照片，以及分享受害者的反应，来换取群组的入场格。涉及的群组参与人数不等，少的几百上千人，多的超过十万人。

目前，不断有受害学校及被害者信息流出。在社交网站流传的受“深度伪造”事件影响的学校名单已经超过百所，并且还在增加。该名单由一名匿名用户发布，其中不仅包括韩国的中小学，还涉及海外的韩国国际学校。

在此过程中，加害者还毫不犹豫地公布受害女性的身份，威胁受害人，索要钱财。

青少年是受害者也是加害者

其实早在今年5月份，“深度伪造”事件就遭到曝光。据报道，首尔大学毕业生朴某和姜某，从2021年7月至2024年4月，涉嫌利用“深度伪造”技术换脸合成色情照片和视频，并在“电报”上私密传播，受害女性多达61人，包括12名首尔大学学生。

今年7月10日，“首尔大学版N号房”案进行第二次庭审。朴某承认自己传播虚假色情视频，但否认惯犯和教唆犯罪的指控，姜某则对所有指控供认不讳，另有两名同谋也被起诉。但现在，更令人担忧的是，这种新型性犯罪正在韩国初高中校园等未成年人群体中快速传播。

据媒体报道，因为“只是觉得有趣”“只是在开玩笑”“用熟人的照片P图更真实”等原因，“深度伪造”在韩国10代群体之间像“游戏”一样盲目蔓延。加之“电报”等社交媒体的匿名性，犯罪者更加有恃无恐，甚至出现了“只有傻瓜才会被警察逮住”的言论。

8月28日，韩国女性家庭部所属韩国女性人权振兴院表示，自2018年4月设立数字性犯罪受害者支援中心以来，截至今年8月25日，共向2154名“深度伪造”案件受害者提供帮助。今年（截至25日）已有781人求助，照此趋势，今年全年受害者恐超1000人。

韩国女性人权振兴院称，今年总计781名受害者中，36.9%（288人）为20岁以下青少年和儿童。

此外，在最近4年被立案调查的嫌疑人中，超过一半的325人（70.5%）是10代人群。与此同时，韩国教师工会指出，在最近的一系列事件中，有200多所学校受到了影响。

警方称青少年缺乏相关法律意识

有报道指出，部分民众认为问题真实情况比官方数据更为严重，在一个社交媒体频道中，就有超过22万名会员制作并分享伪造的图像和视频，而且相当一部分受害者和加害者是未成年人。

韩国警察厅称，今年前七个月共报告了297起色情相关的“深度伪造”犯罪案件，高于去年的180起，几乎是2021年数据首次整理时的两倍。在178名被指控的人中，青少年涉案者超六成（113人）。

另据媒体报道，今年1至7月，首尔警方因“深度伪造”案件对10名14岁以上的青少年立案。他们涉嫌将同校女生的社媒平台照片与色情内容相结合，制作和传播“深度伪造”的性犯罪材料。全罗南道、忠清北道、仁川市等多地警方正对嫌疑人进行立案调查。

首尔警察厅官员表示，许多青少年因过度依赖信息技术，缺乏相关法律意识，参与制作和传播“深度伪造”内容，导致校园内此类犯罪行为泛滥。警方计划与教育部门合作，强化学校的数字性犯罪预防教育，包括告知学生分发非法合成材料是严重犯罪，以加深学生对数字性犯罪的认识。

受害女性接受采访。湖南日报

另据报道，韩国警方表示，“电报”服务器设在境外，且涉案人可随手删除淫秽影像和自己发布过的信息，侦查难度较大。韩国警方计划以市、道警察厅网络性暴力调查组为中心积极展开整治行动。

各方呼吁政府采取更强硬措施

相关事件引发国际社会关注的同时，韩国警方也在加快调查。首尔警察厅网络犯罪调查组26日起对自动生成“深度伪造”不雅视频的社交频道程序（机器人）进行立案前调查，当日调查了一台机器人，估计有22.7万多人使用；两天后，警方调查的机器人数量增至8台。

据了解，韩国警方已成立特别工作组，专门应对“深度伪造”性犯罪等虚假视频案件，该工作组将运行到明年3月31日。

此外，面对“深度伪造”性犯罪的蔓延，韩国社会各界呼吁政府采取更强硬措施。

据当地媒体报道，韩国性暴力救助中心主任表示，在学校、家庭等日常生活场所，非法拍摄、传播、合成、性侮辱等现象时有发生，女性似乎到了无法生存的境地，“现在是通过教育和平台监管等组织合作来解决问题的时候了。”

教师团体也呼吁政府发挥作用，称“学生们因无法指望肇事者受到惩罚或得到适当的回应，只得自行撤下在社交平台上上传的照片”，希望政府能够有国家层面的举报受理系统和专门调查小组。

8月27日，尹锡悦就“深度伪造”犯罪行为发表讲话称：“最近，在社交媒体上，针对不明人数的深度伪造视频迅速传播。受害者通常是未成年人，而施暴者大多是青少年。”

尹锡悦指出：“虽然深度伪造犯罪的托词是单纯的恶作剧，但这是在匿名的遮羞布之下恶意利用技术的明确的犯罪行为……任何人都可能成为受害者。”他呼吁警方通过彻底的调查，根除此类犯罪。

韩国最大在野党共同民主党代表李在明则呼吁政府制定国会层面的对策，以根除“深度伪造”犯罪。李在明说：“要研究受害者保护方案和对‘深度伪造’制作、分发者的严厉处罚规定。”

韩国政府还计划加强对利用“深度伪造”进行性犯罪行为的处罚力度，推进与通讯软件“电报”的运营公司构建合作热线。

韩国执政党国民力量党政策委员会主席金相勋也在新闻发布会上称，党政在国会开会讨论“深度伪造”性犯罪的预防对策。双方计划推进立法，将散布虚假视频等犯罪行为的最高刑罚从5年提高至7年。党政还商讨了在教育部网站设立举报中心，以及为受害者提供心理咨询和法律援助的方案。

新闻多一点：

新技术下，“N号房”案件重现

在“深度伪造”相关案件曝光前，韩国曾爆出震惊世界的数字性犯罪案件——“N号房”事件。

2019年，韩国社交媒体消息称，韩国男性利用“电报”聊天室勒索数十名年轻女性进行性行为，这起丑闻被称为“N号房”事件。据报道，该案件被害女性至少有74人，其中16人为未成年，最小年龄受害者为年仅11岁的小学生，曾加入过房间共享非法传播物的用户多达26万人。2021年，“N号房”主犯赵主彬被判处有期徒刑42年。

“N号房”事件的发生推动了韩国《Telegram“N号房”事件防治法》的出台，包括《关于性暴力犯罪处罚的特例法修订案》《刑法修正案》《关于限制犯罪收益隐匿的规定及处罚的法律修订案》等内容。近年来，韩国修改法律，加大对数字性犯罪的打击力度。

但是网络上的性犯罪仍然猖獗。据报道，韩国警方称，网络上“深度伪造”性犯罪激增。2024年前7个月共报告了297例案例，高于去年全年的180例和2021年的160例。在过去三年中，青少年犯下了超过三分之二的罪行。

上游新闻综合自环球时报、科技日报、九派新闻、观察者网、红星新闻、封面新闻等