巴菲特、雷军、黄百鸣、马斯克……纷纷中招。
AI的技术迭代远远快于监管的速度,近一年来,涉及名人的造假视频层出不穷。
这甚至已引起了“股神”巴菲特的忧虑。
当地时间10月23日,巴菲特旗下伯克希尔·哈撒韦公司在官网罕见发表声明,强调公司董事长巴菲特不会在社交媒体上推荐任何投资产品。
5月的股东大会上,巴菲特曾提及AI,他将AI的出现比喻为原子弹,“我们已经让精灵从瓶子里跳了出来,它现在正在做一些坏事。
相比巴菲特,雷军则更为激动。
今年国庆期间诞生了一条名为“国庆七天被雷总骂”的梗,起因是一个雷军AI语音包在短视频平台悄然走红。
网友使用AI克隆的乐军语音包来吐槽、骂人,因为部分视频内容过火而引发了争议。
29日上午,雷军通过个人账号首次发布了短视频回应了这件事。
在视频中雷军表示前段时间自己刷短视频时关注到了很多人在玩“雷军AI”。
他说,“有网友跟我投诉,说国庆期间被我连续‘骂了’七天,的确让我自己也挺困扰,挺不舒服的,希望大家都不要玩了,这个事情不太好。”
更为恶劣的事情发生在黄百鸣身上。
23日,老牌港星黄百鸣在社交媒体上发布了一则声明,提及自己被AI伪造用于代言。
在声明中他称,发现有人盗用过去的影片,并利用人工智能技术替换声音,假借黄百鸣的名义代言一个不知名的药膏品牌。
他还指出,“这种行为纯属欺诈,旨在误导公众并从中取利”。
此外,这样的欺诈也越来越凶猛,无底线。
媒体报道,今年8月,马斯克因AI伪造技术卷入了一场诈骗事件。
82岁的退休老人史蒂夫·比彻姆(Steve Beauchamp)在网上看到了一段声称由马斯克亲自承诺收益的投资视频。
随后他联系了视频背后的推销公司,并投资了超过69万美元。
随后,这些钱就落入了诈骗犯之手。
据悉,这些诈骗者篡改了一段马斯克的真实采访,利用AI技术替换了他的声音,并微调了他的口型,以匹配他们为这个数字人编写的新剧本。
对于一般观众来说,这种操作几乎察觉不出。
越来越泛滥的AI造假,意味着什么?
AI在互联网上的使用传播我们应该注意什么?
对此,安徽日报元新闻记者徐宏博和书乐进行了一番交流,本猴以为:
未经授权,通过抓取语音形成AI语音包,都是侵权。
无论是名人明星还是普通人,遭遇造假,都可维权。
这一点和借助真人形象生成AI虚拟人是一致的。
不得不说,AI具有强大的内容生成能力,在数字媒体全链条上均可发挥作用,而在内容把控上,有两个问题必须注意:
其一是版权问题。
AI在学习过程中会吸收大量学习资料,这种资料的来源需要有授权,而不是简单抓取,其中真人AI语音包就是一个最粗浅的版权角度。
其二是导向问题。
AI生成内容必须符合主流价值观,要AI向善,这一点也是技术人员在训练AI、使用者在借助AI进行内容生产时必须把握的红线。
当下,AI在互联网上使用,当下首要任务就是标注。
所有AI生成内容必须标注AI生成,可由发布者自行标注,也可由发布平台强行标注,这样才能让受众在信息接收时能够有效辨别。
此外,互联网相关监管方,应该对AI使用中出现的各种乱象,加大监管力度,重拳出击、顶格处理,消弭隐患于萌芽之中。
否则,今天能搞雷军、马斯克,明天你我也难免中招。
别以为普通人,就不会有事,坑的就是你我这样的普通人。
张书乐,人民网、人民邮电报专栏作者,中经传媒智库专家,资深产业评论人