名人说外语的视频引发了对人工智能监管的讨论
最近几天，大量视频在互联网上疯传，视频中美国歌手泰勒·斯威夫特和热播电视剧《了不起的麦瑟尔夫人》中的雷切尔·布罗斯纳汉说一口流利的中文，还有中国单口相声演员说一口完美的英语。这些视频片段非但没有带来惊喜，反而引发了人们对监管技术的恐惧和讨论，因为事实证明它们是由人工智能生成的。
在这些视频中，斯威夫特“说”出一口流利的中文，只有一点口音。更重要的是，她的嘴巴动作与中文单词相匹配。布罗斯纳汉也站在舞台上，轻松地念出完美的中文，他说：“这就是为什么我需要真正出名。如果你出名了，每个人都爱你。”
在一段视频中，可以看到中国著名相声演员郭德纲用流利的英语表演相声。
后来发现，所有这些视频都是由人工智能软件生成的。据中国媒体报道，该软件只需上传原始视频并选择你希望人们使用的语言，就可以制作上述视频片段。
这些视频在网上引起了热烈讨论。
中国类似X的平台新浪微博上的一位用户说：“这些夹子让我的头发竖起来了。想象一下，这项技术多么容易被用来破坏某人的声誉。”。
另一位新浪微博用户表示：“技术确实是一把双刃剑。如果人工智能在没有监管的情况下发展，后果可能会很可怕。”。
使用人工智能制作Swift说中文和郭说英语等视频可能侵犯他们的权利，因为中国法律规定，未经版权所有者批准，不得使用相声等作品。此外，北京律师岳慎山表示，除非得到人民本人的批准，否则不能使用人民的图像。
上周，印尼当局表示，一段明显显示印尼总统佐科·“佐科维”·维多多用中文发表演讲的视频是使用人工智能工具制作的深度伪造视频。这段视频已经获得了数百万次观看。媒体发现了这段原始视频，视频显示这位领导人在2015年的一次联欢晚会上用英语讲话。
近年来，人工智能技术被广泛应用于短视频的二次创作，如人工智能换脸、变声等。在前几年，电视剧制片人也使用这项技术来替换演员的脸。
也有不法分子利用人工智能技术变脸愚弄儿童并实施犯罪的案例。这项技术也被用来制造假新闻和散布谣言。
中国国家信息安全标准化技术委员会制定了生成性人工智能服务的基本安全要求草案，并于10月开始向公众征求意见。
这些要求概述了生成人工智能服务的基本安全标准，包括语料库安全、模型安全、安全措施和安全评估。这些标准适用于向中国公众提供生成性人工智能服务的提供商。服务提供商可以根据这些标准独立进行安全评估或聘请第三方进行安全评估。这些要求也可以作为相关监管部门评估生成人工智能服务安全性的参考。
关于未来的人工智能监管，中国警察法学会反恐与网络安全治理专家委员会副主任秦安告诉《环球时报》，一步是保护公民信息，另一步是要求平台明确标记人工智能篡改的视频或图片。
秦说，总体而言，人工智能仍处于发展的萌芽阶段，风险尚未完全暴露。然而，他也表示，在人工智能开发方面应该采取宽容和谨慎的态度，以免扼杀这项技术的创新发展。
