韩国再现N号房丑闻,韩国女性求助无望,在微博向中国网友求助

张勇吖 2024-11-28 15:54:41

最近,韩国再现“N号房”丑闻,引起韩国女性恐慌,在微博向中国网友求助。

提到的deepfake(深度伪造),用我们熟悉的话说就是“AI换脸”。事情发生在“纸飞机”上,而在8月24日晚,其创始人杜罗夫在法国机场被逮捕,被指控“恐怖主义、贩毒、欺诈、洗钱”等。帮大家捋一下韩国女性发博求助的原因。纸飞机,因其不受各国政府安全监管而被大量不法之徒用来行不法之事,正如法国指控所言。

随着AI技术的发展与下沉,普通用户使用AI几乎没有什么门槛,不仅提高了很多人的生产力,同样也滋生了一些擦边甚至违法的勾当。

韩国女性反应的问题,正是这两者的结合的“恶果”。有韩国记者卧底发现,“纸飞机”上有数十个聊天群组,用户在群组里分享他们认识的女性的照片,并使用AI在几秒钟内制作成假的色情图片。

这些群组有严格的准入要求,需要提交投名状,如必须提交4张认识的女性的照片、姓名、年龄、地址等敏感信息。这些人已经丧心病狂到何种程度了?甚至将黑手伸向了家庭女性成员。有用户反映“每分钟都有人上传他们认识的女孩的照片并要求将她们的照片制作成深度伪造的内容。”

这些群里有大学生、老师、医生甚至有韩国军人和初高中生。嫌疑人多为青少年,甚至不满16岁未成年。记者了解到,韩国有一所学校的未成年学生成员达到了2000多人,据统计已有500多所学校被确定为攻击目标。

自“深度伪造”丑闻爆发以来,揭露“N号房”丑闻的学生记者朴智贤,每天都会接到多次学生和家长的电话。“他们在社交媒体上看到自己的学校出现在名单上,感到非常害怕。”

甚至让很多韩国女性对自己认识的周围的男性产生了怀疑,闹得人心惶惶。此事被揭发后,韩国全国各地的许多女性和青少年,从她们的社交媒体上删除她们的照片,甚至停用了她们的账号,担心自己可能会成为下一个被“深度伪造” 的对象。

韩国总统尹锡悦要求“彻底调查并解决这些网络性犯罪,将其根除”。有受害者报警后,韩国警察告知受害人不要再追究她的案件,因为抓捕太困难了,而且这“不算犯罪”,因为“照片是假的”。正如前面所说,涉及的韩国学校多达500多所,光一所学校的参与成员就多达2000多人,甚至还在增加,更是增加了嫌疑人法不责众的侥幸心理。

这让很多韩国女性如坐针毡,对韩国的公权力丧失了信心,便期望能在其他国家社交媒体上曝光丑闻,期望能通过这种方式为韩国当局带来舆论压力,以期寻求帮助。韩国首尔青少年文化中心顾问李明华说:“对于青少年来说,深度伪造已经成为了他们文化的一部分,他们将其视为一种游戏或恶作剧。”AI一直在进化,就在2022年,还曾有一张《太空歌剧院》的画以假乱真,获得美国科罗拉多州博览会艺术比赛一等奖。

最后要不是创作者自己坦白,没有人会认为这是一张由AI创作的图片,连专业的评委也没有发现任何蛛丝马迹。AI作为一个生产工具,管好了是生产力,管不好就是犯罪工具。通过AI训练模拟一个人的声音、语气等也不是难事,可能视频通话时对面的人不一定都是你熟悉的那个人。

0 阅读:64

张勇吖

简介:一个有趣的世界新闻看客,用有趣的视角了解世界