YouTube 希望让人工智能生成的内容更加透明。
YouTube最近宣布了一个重要更新，即很快将要求创作者披露他们的视频是否使用生成式人工智能制作。这一措施旨在减轻生成人工智能可能带来的误导或有害影响。
YouTube产品管理副总裁Jennifer Flannery O'Connor和Emily Moxley表示：“我们将为上传内容的创作者提供新的选项，让他们标明其内容是否包含真实的修改或合成材料。”
如果创作者未能始终如一地遵守这一规则，他们可能会面临诸如内容删除或暂停YouTube合作伙伴计划等处罚。此外，艺术家和创作者也将能要求删除未经同意使用其肖像的内容，包括音乐。
表示人工智能生成内容的 YouTube 标签是什么样子的。 图片来源：YouTube
生成式人工智能的广泛应用加剧了深度造假和错误信息的风险。为此，公共和私营部门都在寻求方法来检测和预防生成人工智能的恶意使用。例如，拜登总统的人工智能行政命令专门强调了对人工智能生成内容进行标签或水印的必要性。OpenAI正在开发一个工具，即“来源分类器”，用以检测图像是否由其DALL-E 3 AI生成器制作。上周，Meta也宣布了一项新政策，要求政治广告商披露其广告是否使用生成人工智能。
在YouTube上，创作者上传视频时可以选择标明视频是否“包含真实的修改或合成材料”。例如，这可能是人工智能生成的视频，真实地描述了从未发生过的事件，或者显示某人说或做了他们实际上没有做过的事情。
这些视频中含有人工智能生成或更改内容的标签将被添加到描述面板中。涉及敏感话题的内容将会有“更显眼的标签”。即使内容被适当标记，如果违反了YouTube的社区准则，也将被删除。
YouTube将如何执行这些内容审核？答案是通过人工智能。生成式人工智能不仅能创造出看似真实的虚假内容，还能成功识别和捕获违反内容政策的内容。YouTube将部署这些技术，以帮助大规模地识别和理解这些威胁。
