眼见未必是真！

一张“人像照片”、一段“人物视频”，都有可能成为不法分子犯罪的新手段和新工具。

2024年国家网络安全宣传周期间，关于AI换脸、换声等对个人隐私侵害的话题再次成为大家关注的焦点。

实际上，就在网安周前一周举行的外滩大会期间，也同样在热议这一话题。

AI换脸是一种在深度学习（Deep　Learning）算法的加持下的计算机篡改人脸图像的深度伪造（Deepfake）技术。

随着AI换脸技术的不断迭代，在提高文娱、电商等产业生产效率的同时，也带来了层出不穷的风险。

9月初，韩国出现“深度伪造”技术下的新“N号房”案件，韩国女性陷入“AI换脸恐慌”，甚至在中国社交网络上发帖求助。

同时，新浪科技发现，如今在小红书、闲鱼、B站等平台，利用AI美女视频教程吸引用户，号称“流行赛道，5天破万粉，日入四位数”的教程，成为行业灰产的温床。

近日，有网友在社交平台反映，自己不但被做成了换脸视频，还被放在收费论坛获取非法收入。

而另一方面，依靠“AI美女”的幌子，一些人依靠数千元高价“课程”赚取利润，并且即便最终不能实现所谓的月收入5万也无法退费，一条灰色产业链就此形成。

在另一边，无论是“AI一键换脸”，还是让照片动起来，在一些阴暗的角落，生成式AI技术的崛起，也引发了一系列的行业乱象。

今年6月，在国内，警方也破获了一起利用AI技术“一键去衣”赚取灰色收入的案件。

涉案人白某在境外网站发布广告，只需要一张日常生活照片，就可以完成“一键去衣”效果。

而据此人描述，在被抓获时，他已经在QQ上向351个人贩卖过相关图片，图片数量将近7000张。

此外，2024年中央广播电视总台3·15晚会就曝光了使用“AI换脸”进行诈骗的行为。

据此前媒体调查，60%的受访者表示凭借肉眼辨认不出AI换脸视频。

不过，一些技术人员也表示，只要稍加留心，AI换脸还是有明显破绽的。

“马脚”就在面部轮廓和光线上，可以仔细观察下是否清晰。

有必要的话，还可以要求对方快速大幅度地做点头等动作，从而观察其面部轮廓是否有异常模糊。

此外，近年来殡葬行业选择以元宇宙、AI数字人等方式来进行服务扩展，这种尝试除了吸引大众眼球之外还有什么实际的价值？

这种贩卖AI换脸教程的可能会引发什么问题？

对社会造成什么危害？

“AI复活亲人”的相关服务会变成行业流行的趋势吗？

对此，新浪科技罗宁和书乐进行了一番交流，本猴以为：

这种AI换脸，就是昔日PS换头一样，可以让人随意去生成任何人的“虚构内容”，其行为哪怕出于自娱自乐，也同样侵犯了被换脸对象的个人权益。

此外，这样的换脸术，可能应用的空间很大，包括但不限于恶意捏造、构陷的各种传播，以及通过换脸术实施各种诈骗和绕开人脸识别系统的行为。

是的，因为每个人的照片或视频，并不仅限于个人拥有，且在摄像头林立的大时代，你甚至不知道你的头像被多少陌生人获得，其风险完全不可测。

特别是一些公众人物，甚至未必是人类，都可能成为潜在受害者。

至于AI复活亲人，则是另一个范畴，但同样有风险。

不得不说有需求即市场，AI复活亲人，某种意义上是一种基于黑科技的情感满足和精神慰藉，但这一产业极为垂直和长尾，且属于个性化定制，难以标准化生产，市场规模难以做大。

如果是“复活”亲人，本质上和老照片修复的性质相似，只是加入了更多互动和个性元素，但整体上依然是“缅怀”。

其“复活”的亲人，也不会向《流浪地球2》中演绎的那样进一步学习、成长。

仅仅为了缅怀而复活亲人，本质上没有伦理问题，主要在服饰、形象和互动言语上，把握好度即可，前提是亲人必须是直系，用途也基于缅怀和陪伴。

其最大的隐患在于内容生产方往往缺乏对需求方的资格审核，而让所谓复活亲人不再局限于“复活”，也未必是直系亲人，而导致“作品”被滥用。

例如类似充气娃娃式的虚拟形象、电信诈骗，以及用AI生产真人形象进行各种违法行为等。

无论是在元宇宙还是AI数字人，其“复活”的成都总归和亲人相去甚远，只是怀念。

但更多的也只是带有互动效果的遗像，而且可能还是会走样，并不会成为流行大趋势。

作者 张书乐，人民网、人民邮电报专栏作者，中经传媒智库专家，资深产业评论