极目新闻记者庞正
通讯员李洁馨
视频制作刘阳
2025年全国两会即将召开，全国人大代表、TCL创始人、董事长李东生带来对AI深度伪造欺诈管理方面的建议。
李东生
近年来，人工智能技术发展备受关注。然而，李东生注意到，随着生成式人工智能技术的发展，深度伪造技术也快速发展。“一方面，生成式人工智能技术的进步给各个领域带来机遇；另一方面，AI深度伪造内容侵权现象愈演愈烈，欺诈事件频发。”李东生说，针对AI深度伪造内容管理问题，近年来，我国相关立法虽有关注这一议题，但已出台的规章制度还不具备可操作的细则和明确的处罚标准。
他认为，要规范对于这一新兴技术的不当利用，有必要要求深度合成服务提供商对人工智能生成的内容进行强制标识，减少恶意滥用，且有助于厘清责任，对违法犯罪行为追责。
对此，他提出四点具体建议：一是加快人工智能深度合成内容标识管理规章制度的出台。二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。三是加强深度合成内容标识技术标准和发布的管理，保证标识的有效性，对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成人工智能生成合成内容的有效监管。
李东生向极目新闻记者介绍，在前不久举行的巴黎人工智能行动峰会上，包括中国、印度、欧盟在内的多个国家和国际组织在会上签署了《关于发展包容、可持续的人工智能造福人类与地球的声明》，这是全球AI治理的一个重要尝试，也标志着全球AI治理迈入新阶段。考虑到技术创新和相关监管需要，可适度推后对未履行标识义务的AI深度合成服务商的惩罚制度，可提前明确相应处罚措施，有利于相关企业尽早做好合规的准备。
