国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中,“雷军”锐评了堵车、假期等热门话题,其中还有一些不雅谩骂。有网友调侃称:“国庆上网被雷军骂了整整7天。”
除了吐槽外,视频里的“雷军”还称要投资某某大学。截至目前,平台上相关话题浏览量过亿。在雷军的微博评论区中,连日来,不断有人留言询问此事。10月7日晚,针对网友“为何骂人”的询问,雷军回复了三个“愤怒”的表情。(据10月9日中国青年报)
“雷军AI配音”的恶搞视频截图(图源:凤凰网科技)
对于很多熟悉网络环境的人来说,这些“雷军AI配音”视频可能是“一眼假”,但雷军的名气太大,影响力也很大,难免会有人当真。毕竟,在短视频平台上,那些甚至都没有用AI配音,只是用剪辑的影像配文字字幕的“假靳东”视频,都有不少人上当。在雷军的微博评论区,也有部分网友对此信以为真,还质问雷军为什么要说那些话。这充分表明,这类AI配音视频,尤其是恶搞名人的视频,会捏造言论,混淆视听,给当事人带来极大困扰。
雷军用“愤怒”表情回复网友(网页截图)
使用AI技术,编辑合成他人的声音影像,其法律风险和社会危害不容忽视。在技术手段日益成熟的今天,几乎可以以假乱真的AI合成技术让普通人难以分辨真伪。一旦这些合成内容被恶意传播,不仅会对当事人的名誉造成损害,还可能引发一系列的法律纠纷,可能涉及侵犯他人的肖像权、名誉权等。
对于明星、名人而言,名誉是他们在商业领域和社会中的重要资产,被恶意诋毁和恶搞可能影响他们的商业形象,进而导致经济损失,而对于普通大众来说,如果这种现象泛滥,每个人都可能成为下一个被恶搞的对象,社会秩序和公序良俗将受到挑战。更为严重的是,如果这些内容被用于造谣传谣、诈骗等违法活动,将对社会秩序造成极大的破坏,引发难以预料的严重后果。
这一类的AI名人配音视频,往往会挂着“恶搞”的名头,很多人也将之当作娱乐消遣,觉得不必太认真。但实际上,这绝对不是一件可以一笑而过的事。换位思考一下,如果我们自己遇上这样的事,被人以这种方式“换头”“换声音”恶搞,在网络视频中说了一些自己没说过的话,做了一些自己没做过的事,甚至被广泛传播,更严重的可能涉及违法违规、名誉损毁等问题,那我们的生活将遭遇何等严重的冲击?可能会失去朋友的信任、面临职场上的歧视,甚至会遭受网络暴力的侵害、被卷入法律纠纷的漩涡。
雷军作为科技领域的知名企业家,更能体会科技伦理的重要性,比普通人有更强大的维权能力,也应更重视自身的权益保护和社会形象。对于这种恶搞行为,雷军完全可以通过法律途径来追究视频发布者的责任,至少可以要求恶搞者停止侵权、公开道歉、恢复名誉。凭借雷军的个人影响力,也可以对潜在的侵权者形成警示和震慑,消除AI伪造视频对社会的不良影响。
近年来,AI“深度伪造”技术频频引发争议,有人利用AI生成虚假图片、视频编造谣言,颠倒黑白,有人用AI“换头”技术炮制不雅视频,损害他人名誉,此外,还引发了数据污染、内容造假、知识产权侵权、利用生成内容进行诈骗等一系列乱象。
近日,国家网信办起草的《人工智能生成合成内容标识办法(征求意见稿)》,已面向社会公开征求意见,希望通过专门性法规,加强对AI生成技术的约束和规范,督促服务提供者和网络平台承担起应有的法律责任,为AI生成内容添加显著提示标识,禁止生成和发布涉及违法违规、侵权欺诈的内容,提高受众的警惕性,防范虚假信息的传播,在保障民众合法权益的基础上激励技术发展,从根源上消除可能造成的危害和不良影响。
AI技术理应给生活带来更多惊喜和美好,而不是成为某些人恶意编造、传播不实信息的工具。唯有给迅猛发展的AI技术套上法律的缰绳,大力降低AI生成的内容所隐藏的种种风险,让AI演绎必须在合法合规的框架内进行,而不是胡编乱造、为所欲为,我们才能真正享受新兴技术带来的便利,推动人工智能产业的良性健康发展。