潮新闻客户端记者王静
短视频平台上，一个家喻户晓的明星正在聊孩子的教育，猝不及防就打起了广告：“从小给孩子喝某某牌奶粉，聪明长得壮。”表情和口型完全对不上，但声音却相似得出奇。
视频通话里的女儿正在撒娇向妈妈要生活费，敲门声响起，妈妈起身去开门，门口站着的才是“真女儿”，屏幕里传来的声音、容貌和眼前的真人几乎一模一样……
近几年，随着AI技术的更新迭代，给人们生活带来便利的同时，也给了犯罪分子的可乘之机。全国“AI换脸拟声”诈骗、侵权案频发，引人关注。
3月4日，全国人大代表雷军在微信公众号上发布“我的2025两会建议”，其中包括，关于加强“AI换脸拟声”违法侵权重灾区治理的建议。
“AI换脸”之扰
雷军苦之久矣
事实上，雷军本人深受“AI换脸拟声”之苦，2024年国庆期间，网络上流传大量未经授权的“雷军语音包”，内容从吐槽到恶意，数量之多，让他无从招架。还有利用雷军的采访视频片段，配上AI拟声，为自己带货。甚至还有不法分子利用AI深度合成视频，进行诈骗，严重损害了他的个人形象和声誉。
雷军表示，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，带来社会治理等风险。基于此，他提出加快单行法立法进程、压实平台企业等各方的责任和义务等建议。
对此，雷军建议，一是针对“AI换脸拟声”等某一代表性问题，探索推出人工智能单行法，提高立法位阶及其效力，分级分类的基础上进行务实治理，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。
二是强化行业自律共治，压实平台等各方的责任。支持平台企业开发可精准识别人工智能深度合成内容的技术能力，优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制，确保及时阻断问题内容传播。
三是建议加强人工智能方面的法制宣传教育，增强民众的警惕性和鉴别力，聚焦重点人群，在中小学人工智能教材中加入伦理规范内容，深入老年人聚居的社区开展相关知识普及活动，在全社会夯实“以人为本、智能向善”的人工智能发展生态。
“像蝗虫一样害人”
AI侵权为何屡禁不止
不只是雷军，许多公众人物如医学专家张文宏、育儿专家李玫瑾、影视明星刘德华、靳东等都在不同场合呼吁过对“AI换脸拟声”加强监管，张文宏甚至被换脸进行直播带货蛋白棒，让不少网友信以为真。
张文宏作出回应称，视频是AI合成的，“我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人”。
为何对“AI”侵权的监管这么难？浙江浙联律师事务所高级权益合伙人朱觉明表示，原因是多方面的。
首先，AI工具开源易得，侵权人容易完成换脸操作，有些侵权主体多通过境外服务器隐藏身份，所以执法追踪难度大。
其次，现有平台审核机制难以实时识别深度伪造内容，尤其是语音合成技术逼真度高，普通用户因“眼见为实”难以辨别，执法难度大。
此外，多方责任界定困难也是“AI换脸”侵权猖獗的原因之一。
朱律师表示，“AI换脸”侵权涉及平台、技术开发者、内容传播者等多方责任，现有法律对平台责任、技术边界界定模糊。在司法实践中，对赔偿经济损失界定较难，对违法者震慑不够。“在裁判文书网上，可以找到不少关于AI侵权的判决案例，通常判法为道歉及赔偿，赔偿金大多在千元左右。”
律师表示，AI侵权的判罚存在法律体系滞后，现有法规如《互联网信息服务深度合成管理规定》效力位阶低，内容分散，难以覆盖新型侵权行为。现行法律主要依赖《民法典》等进行民事追责，缺乏针对AI技术的专项立法。
律师支招：谨防个人生物信息泄露
“AI换脸”防不胜防，现实生活中，我们该怎么办？朱律师也支了招。
1.提高警惕与信息核实
若出现视频通话涉及转账请求，可要求对方做特定动作，如摸脸、眨眼进行验证身份，观察画面是否出现扭曲或异常，也可以挂断后主动通过其他渠道（如电话、线下见面）核实信息真实性，避免上当。
此外，我们可以学习识别AI合成内容的“破绽”避免受骗，及时识别不自然的语音停顿、面部光影异常等异常情况。当然，需要留意出现“AI内容标识”的提示时，应当特别警惕。
2.防止个人生物信息泄露，谨慎授权
我们避免在社交平台公开高清正脸照、声纹样本，谨慎授权APP获取摄像头、麦克风权限，防止不法分子取得公民的个人生物信息和相关“授权”。
在实践中，我们可以启用多重身份验证（如视频+指纹+短信验证），减少单一生物信息泄露的风险。
