活跃在巴黎时尚秀场上的明星居然也开始带货了……

杨幂、刘亦菲竟然卖起了减肥茶……

媒体报道，3月末日晚上9点，点进电商直播间，“杨幂”和“刘亦菲”竟然卖起了减肥茶，不久后“迪丽热巴”也加入到直播带货中。

在短短4个小时的时间里，依靠着“明星同款”“顶流力荐”的标签，直播间内的商品销量已达上千件。

消费者在直播间里看得一头雾水，但却因“眼见为实”屡屡疯狂下单，被骗了还浑然不知。

但只要直播时间一长，仔细观察就不难发现，该直播间内的“女明星”如果动作稍大，就会暴露“面具”之下的本来样貌，或者出现“面具”出画的现象。

很显然，这是AI换脸出来的“假人”。

事实上，活跃在直播短视频上的许多“歪果仁”，也可能是“假人”。

来自瑞典的网红拉纳布莱克利的脸，也被移花接木到了中国人脸上。

在视频里，“她”大谈中国人的勤劳善良，并且嫁给中国老公，余生在中国定居。

中国新闻网则报道称，不久前，乌克兰网红Olga Loiek发视频控诉她的面孔被非法盗用，例如在国内社交平台上活跃的卡塔琳娜。

在社交平台上，卡塔琳娜是一位在中国生活了5年的俄罗斯女孩，今年1月开始发布视频，多数附带着商品链接。

她拥有超过10万粉丝，看起来只是众多带货网红中的一个。

但如果留意就会发现，和她“共用一张脸”的账号有许多，有的叫娜塔莎，有的又叫琳娜、波娃.....

AI换脸，也开始变成了一个产业，除了“假人”直播，还有培训教程。

有从业者打出“包教包会”的旗号当起了职业培训师。

“培训费用”从29.9元到上万元，涵盖工具、承诺包教包会，消费者缴费后才知道所谓的包教包会，是“只售出无售后”。

从“AI换脸”到“Sora”,当消费者们还沉浸在科技对世界的重塑力上时，有这样一些商家早已经构建起了一条低成本牟暴利的灰色产业链。

此外，此前AI复活亲人异变到复活明星，引发巨大社会争议，也让这一问题被大众所关注。

AI“假人”现象集中爆发，到底是怎么回事？

其中存在的隐患问题？

对此，中国新闻网记者邵萌和书乐进行了一番交流，本猴以为：

技术无罪，但运用者动了歪脑筋。

目前的数字人技术，确实可以提供高度神似真人形象的虚拟复制，但本质上也仅仅只是形象和语音语气上的复刻。

AI“假人”作为一个新的细分产业，有其存在的合理性，例如AI复活亲人。

但无论是复活亲人还是明星，又或者克隆健在之人，都有一个大前提，即如果是复活亲人，必须直系亲属确有需求，并主动要求。

而复活明星或克隆活人，则要取得相关版权方、当事人的许可。

以后随着大模型的成熟，确实可以给逝者，包括我们自己定制一个高仿的虚拟数字人。

同时，这一领域，如果只是看定制生意，市场规模不会大。

但如果延伸来看，在取得相应授权之后，来打造一个数字永生的IP，这可能带来各种可能。

如真人底色的虚拟歌手演唱新的歌曲、参与商演、代言或影视剧中，类似于现有的数字虚拟人如初音未来、洛天依那样，则可以形成巨大的商业价值，这样的方式，才是科技向善。

目前而言，此类AI“假人”生意有极大的隐患。

主要是内容生产方往往缺乏对需求方的资格审核，而让所谓数字人定制可能完全没有授权而侵权。

甚至可能导致“作品”被滥用，例如类似充气娃娃式的虚拟形象、电信诈骗，以及用AI生产真人形象进行各种违法行为等。

不过，目前来说，AI数字人的技术门槛还是比较高，当下流入市场的技术其实是AI换脸和变音，即真人表演、换脸造假。

此外，AI“假人”的识别难度不是太大，如面临可能的诈骗风险时，要求对方按下鼻子，能很快洞察。

作者 张书乐，人民网、人民邮电报专栏作者，中经传媒智库专家，资深产业评论人