谁?在暗搞雷军、马斯克

张书乐 2024-10-30 08:39:19

巴菲特、雷军、黄百鸣、马斯克……纷纷中招。

AI的技术迭代远远快于监管的速度,近一年来,涉及名人的造假视频层出不穷。

这甚至已引起了“股神”巴菲特的忧虑。

当地时间10月23日,巴菲特旗下伯克希尔·哈撒韦公司在官网罕见发表声明,强调公司董事长巴菲特不会在社交媒体上推荐任何投资产品。

5月的股东大会上,巴菲特曾提及AI,他将AI的出现比喻为原子弹,“我们已经让精灵从瓶子里跳了出来,它现在正在做一些坏事。

相比巴菲特,雷军则更为激动。

今年国庆期间诞生了一条名为“国庆七天被雷总骂”的梗,起因是一个雷军AI语音包在短视频平台悄然走红。

网友使用AI克隆的乐军语音包来吐槽、骂人,因为部分视频内容过火而引发了争议。

29日上午,雷军通过个人账号首次发布了短视频回应了这件事。

在视频中雷军表示前段时间自己刷短视频时关注到了很多人在玩“雷军AI”。

他说,“有网友跟我投诉,说国庆期间被我连续‘骂了’七天,的确让我自己也挺困扰,挺不舒服的,希望大家都不要玩了,这个事情不太好。”

更为恶劣的事情发生在黄百鸣身上。

23日,老牌港星黄百鸣在社交媒体上发布了一则声明,提及自己被AI伪造用于代言。

在声明中他称,发现有人盗用过去的影片,并利用人工智能技术替换声音,假借黄百鸣的名义代言一个不知名的药膏品牌。

他还指出,“这种行为纯属欺诈,旨在误导公众并从中取利”。

此外,这样的欺诈也越来越凶猛,无底线。

媒体报道,今年8月,马斯克因AI伪造技术卷入了一场诈骗事件。

82岁的退休老人史蒂夫·比彻姆(Steve Beauchamp)在网上看到了一段声称由马斯克亲自承诺收益的投资视频。

随后他联系了视频背后的推销公司,并投资了超过69万美元。

随后,这些钱就落入了诈骗犯之手。

据悉,这些诈骗者篡改了一段马斯克的真实采访,利用AI技术替换了他的声音,并微调了他的口型,以匹配他们为这个数字人编写的新剧本。

对于一般观众来说,这种操作几乎察觉不出。

越来越泛滥的AI造假,意味着什么?

AI在互联网上的使用传播我们应该注意什么?

对此,安徽日报元新闻记者徐宏博和书乐进行了一番交流,本猴以为:

未经授权,通过抓取语音形成AI语音包,都是侵权。

无论是名人明星还是普通人,遭遇造假,都可维权。

这一点和借助真人形象生成AI虚拟人是一致的。

不得不说,AI具有强大的内容生成能力,在数字媒体全链条上均可发挥作用,而在内容把控上,有两个问题必须注意:

其一是版权问题。

AI在学习过程中会吸收大量学习资料,这种资料的来源需要有授权,而不是简单抓取,其中真人AI语音包就是一个最粗浅的版权角度。

其二是导向问题。

AI生成内容必须符合主流价值观,要AI向善,这一点也是技术人员在训练AI、使用者在借助AI进行内容生产时必须把握的红线。

当下,AI在互联网上使用,当下首要任务就是标注。

所有AI生成内容必须标注AI生成,可由发布者自行标注,也可由发布平台强行标注,这样才能让受众在信息接收时能够有效辨别。

此外,互联网相关监管方,应该对AI使用中出现的各种乱象,加大监管力度,重拳出击、顶格处理,消弭隐患于萌芽之中。

否则,今天能搞雷军、马斯克,明天你我也难免中招。

别以为普通人,就不会有事,坑的就是你我这样的普通人。

张书乐,人民网、人民邮电报专栏作者,中经传媒智库专家,资深产业评论人

0 阅读:107

张书乐

简介:长期坚持在IT和游戏领域呓语的非权威人士