黑暗中的一束光:为了对抗Deepfake,中科院张欣怡果断免费开源

科技有夕小瑶 2024-09-05 13:50:44

近日,一起针对女性的网络犯罪刷爆全网——

“施暴者”利用一门名为deepfake(深度伪造)的AI换脸技术,将不雅视频的“女主角”的脸,换成身边女性的脸并大肆进行宣传。

受害女性们受到了莫须有的网络暴力,颜面扫地、名誉全无。

被偷走的,不仅是受害者的脸,还有身份、名誉、隐私、尊重。近乎无解。

3.5研究测试:hujiaoai.cn4研究测试:askmanyai.cnClaude-3研究测试:hiclaude3.com

直到今天,一位勇敢的小姐姐站了出来:张欣怡。

张欣怡,作为一名算法研究工程师,她一直在deepfake检测工作深耕。近期参加了外滩大会的全球Deepfake攻防挑战赛。

而同样作为一名女性,deepfake事件对女性带来的伤害,让她无比的震惊与愤怒。

我们会将参赛使用的AI模型向全球免费开源,让所有有需要的人都可以对抗deepfake。希望通过技术手段,为每一个可能受到伤害的人提供保护。

在如此艰难的战斗中,张欣怡率先站了出来,利用自己的毕生所学,在技术层面,果断举起火把,为受害者女性点燃出一片光明。

回顾一下deepfake事件

简单描述一下现在的deepfake技术,那就是:

只需要一张照片,就可以实现超逼真AI换脸。

这项技术最早可以追溯到两年前,有人在YouTube上上传过deepfake技术的教程:

而随着时间推移,deepfake的真实度也越来越高。

现在,只需要不到10美元,就能在几分钟时间内制作出大量伪造视频。

每项技术的发展,我们都期待它在友好的领域发光发热。比如在deepfake技术加持下,抖音上的AI整蛊特效:

但我们不得不承认,它的滥用在犯罪领域得到了更好地发挥。

利用deepfake技术,施暴者针对女性制作了大量淫秽视频,这起事件在韩国最为猖獗,在全球各国也均有发生。

更甚,施暴者收集了合成后的AI视频,以及家庭住址等个人隐私信息,进一步针对受害者,展开财物上的敲诈。

而令人胆寒的是,这件事情的爆发,居然是来源于韩国的一所学校:

据韩联社报道,从2021年7月至2024年4月,首尔大学毕业生朴某和姜某,涉嫌利用deepfake技术换脸合成色情照片和视频,并在Telegram上私密传播,受害女性多达61人,包括12名首尔大学学生。

这次事件,最大的受害者,是学校里的学生和老师。

最大的加害者,居然也是学生!

这只是deepfake犯罪的冰山一角,韩国女性人权振兴院今年发布的《2023数字性犯罪受害者支援报告》显示,去年有8983名数字性犯罪受害者寻求帮助。

斯坦福大学互联网观察站也发现,在大型AI数据库LAION中,至少有数千张疑似儿童性虐待的图像。

而韩国政府的无作为,韩国社会的沉默不语,更加大了作案人员的嚣张气焰。迄今,韩国已有至少200所学校的学生成为deepfake事件的受害者。

有网友制作了一张受害者所在学校的地图,其中密密麻麻的红标触目惊心:

甚至,deepfake的受害者不得不跑到推特和微博上,寻求其他国家的帮助:

这件事情,很难不让人联想到2017年的美国#MeToo运动,以及2020年的韩国的N号房事件。

前者是美国女明星们对性骚扰丑闻的抗争,后者是对胁迫韩国女性(甚至是未成年)拍摄淫秽视频事件的揭露。

N号房事件,至少有26万名会员参与,也就是说,在韩国,每50名男性就有1人围观过N号房。

这次的deepfake事件,也有至少22.7万人参与过。要知道,韩国在2023年的出生人口数也只有23万。

这让我们不得不反思:女性和未成年人遭遇的侵犯与不公,就算在后工业文明时代的发达国家依旧顽固地活跃着。

虽然我们不能改变深植在部分人心里对女性的蔑视和“羞辱”,那我们至少要有坚强的力量,维护好属于女性的合法权益。

“既然有人用技术造假,那么我们也要用技术去阻止他们得逞。 ”张欣怡如是说。

于是,为了帮助更多女性脱离deepfake苦海,张欣怡团队毅然决然地“girls help girls”,将他们的研究成果免费开源使用。

张欣怡团队开源的模型名为:DeepFakeDefenders。在全球Deepfake攻防挑战赛上,成功取得三等奖。

开源地址:https://github.com/VisionRush/DeepFakeDefenders

这是一个非常强大的图像鉴别模型,它通过模拟人类的视觉能力,在整体和局部上分别对色彩和纹理进行识别,从而鉴别图片是否由deepfake伪造。

而鉴于模型的使用难度,张欣怡团队正在开发更方便、更快捷的软件,降低使用门槛。

小结

张欣怡及其团队的研究和举措,如枯木逢春般,给当下深受deepfake迫害的女性群体,带来了一株名为希望的花。

怎样才能避免陷入“我”不是我的自证循环?怎样才能分清虚拟与现实?张欣怡帮我们打出了第一枪。技术应该是造福人类、造福社会,而不是增加有色眼镜、酿成尔虞我诈的悲剧。

但想杜绝如同deepfake类似的问题出现,也许依旧需要法律层面的追责,还需要个人道德规范的支撑。

不过至少,女性群体在受到侵害时,能拥有相应的“武器”帮助。消除不公,走向和平,也正是技术不断发展的目的。

就像张欣怡说的那样:

“这个世界有黑暗,也有照亮黑暗的光。如果一个人的火把太小,我们就把火把传给世界的每一个人。”

众人拾柴火焰高。愿世界女性都能为了更美好的未来,一起加油。

也希望在技术越来越强大的未来,能还予社会以信任,还予女性以尊重。

0 阅读:54

科技有夕小瑶

简介:感谢大家的关注