据@人民日报消息，在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。
他说：“一些喜欢我（出演的）影视剧的观众，被AI换脸视频骗得很惨，这个（诈骗）性质非常恶劣。希望能建立更好的规则。”
据此前报道，网络上有人利用AI合成照片等方式冒充“靳东”诈骗。
人民日报相关报道微博截图。
靳东建议登上热搜。
AI怎么看？
通义千问AI（Qwe2.5-max)认为，解决AI换脸乱象需构建“法律+技术+社会”三位一体治理体系。立法层面，应加快制定《人工智能伦理法》，明确换脸技术使用禁区（如未经同意使用他人肖像），建立“技术开发者-平台-用户”全链条责任机制，推行AI生成内容强制标识制度，要求视频平台部署“数字水印”等溯源技术。技术层面，国家需设立深度伪造检测中心，研发动态对抗算法，推动区块链存证技术应用，同时强制要求AI模型训练数据来源透明化，从源头遏制非法数据采集。社会层面，将AI换脸反诈纳入全民数字素养教育，金融机构需升级生物特征验证体系（如“动态虹膜识别”），社交媒体平台应对高风险内容实施“熔断机制”。此外，可借鉴欧盟经验，对跨境传播的深度伪造内容建立国际联合执法机制，通过技术标准互认、司法协作等手段遏制跨国犯罪。最终需形成“技术创新有边界、平台责任可追溯、公众意识能防御”的治理闭环。
deepseek给出的回答是，AI换脸技术滥用引发的社会乱象亟需建立多维治理体系，通过立法划清创新边界，技术构建防御体系，社会培育鉴别能力，形成AI治理的三维防护网。首先需要完善法律框架：应通过专项立法明确AI生成内容的标识义务，规定未经授权使用他人肖像进行换脸构成侵权。建议在《民法典》人格权编增设"数字肖像权"条款，将深度伪造技术纳入《网络安全法》规制范围，建立"技术开发者-传播平台-终端用户"的连带责任体系。同时需配套司法解释，明确恶意换脸视频在诽谤、诈骗等犯罪中的定罪量刑标准。技术治理也需要强化，推行生成式AI备案制，要求技术开发者嵌入数字水印、元数据追踪等溯源标识。网络平台应建立"AI内容防火墙"，通过特征识别算法实现换脸视频的自动拦截。构建社会共治也需要并行：可建立"AI伦理认证"制度，对影视改编、广告营销等合法应用场景实行分级准入。平台设立"深度伪造内容"专门举报通道，实施"先审核后公开"的内容过滤机制。同时开展全民数字素养教育，推广国家反诈中心App的AI检测模块，提升公众对换脸诈骗的辨识能力。最好，要健全追责机制，实行"AI换脸实名制认证"，通过区块链技术记录内容生产全流程。对黑灰产链条实施穿透式打击，重点整治境外AI换脸软件非法接入。建议设立"数字身份保护基金"，为受害人提供快速维权通道和证据保全服务。
他们怎么说：
最高人民检察院公益诉讼检察厅厅长徐向春在谈到如何有效治理AI伪造时表示，人工智能技术的广泛应用虽然带来了诸多便利，但若不当使用也可能对公共利益造成多方面的损害，特别是损害诚信体系和核心价值观，破坏正常的交易秩序、社会秩序。这些损害往往都会涉及众多不特定个体或经营者，仅仅通过传统的私益诉讼难以实现有效的救济和治理。截至目前，检察公益诉讼办案领域已经拓展至15个领域，其中个人信息保护、反电信网络诈骗、反垄断等领域办理了一批案件，也在积极探索网络虚假信息治理公益诉讼办案，比如浙江省杭州市滨江区检察院办理的全国首例网络虚假信息治理民事公益诉讼案件。同时，检察机关也在探索大数据法律监督模型构建，发挥新技术在公益诉讼办案中的应用，积极应对人工智能滥用可能引发的公益损害，开展更精准有效的监督。
在人工智能的监管方面，全国人大代表雷军特别提到了“AI换脸拟声”技术的滥用问题。他指出，这种技术的滥用已造成多起违法侵权行为，给社会治理带来风险。为此，他建议加快单行法立法进程，提升立法位阶；同时强化行业自律共治，压实平台企业等各方的责任和义务；并加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
全国人大代表李东生提出建议，应对人工智能生成的内容进行强制标识，以减少恶意滥用。他倡导加快出台相关法规，明确惩戒措施，并加强国际合作，以促进AI技术的健康发展。但强制标识AI生成内容在实际落地过程中仍然面临不少挑战。第一，如何确保标识不被篡改或移除仍是难点。目前，AI生成内容的标识可通过水印、元数据嵌入、隐形编码等技术实现，如果标识易被去除，则其监管效果将大打折扣。第二，如何跨模型统一标识标准。AI模型的架构和生成方式各不相同，确保不同模型间的互认，是一个需要解决的重要问题。第三，如何权衡性能与效率，存在挑战。强制标识需要额外的计算和存储资源，可能造成企业成本增加。尤其在AI直播、AI语音通话等实时场景下，如何嵌入标识而不影响生成速度和质量，是技术上的另一大挑战。
全国政协委员、安徽省律师协会监事长周世虹介绍，我国于2023年8月15日起施行《生成式人工智能服务管理暂行办法》，从而形成以该暂行办法为核心，辅以数据安全法、个人信息保护法等单行法的人工智能规范，但缺乏高位阶的专门立法，覆盖范围有限，难以应对技术发展可能引发的各种社会问题。
综合自新浪网、人民网、法治日报等
