今年以来，关于“AI换脸拟声”的新闻频频见诸媒体。近日，北京市老龄协会、北京律维银龄研究与服务中心发布专项报告，提醒老年人注意防范AI换脸诈骗。
报告显示，1月1日至3月17日，北京市老龄协会、北京律维银龄研究与服务中心共监测到关于“AI换脸/造假”相关舆情共计45432篇/条。整体来看，“AI换脸/造假”话题舆情高峰出现在今年3月份。其中，“AI”“换脸拟声”“诈骗”“治理”“造假”“立法”“315”“乱象”“违法”“侵权”成为媒体报道的高频词汇。
报告指出，老年人因为缺乏分辨能力，是AI诈骗的重灾区。据报道，一些不法分子利用AI换脸技术，冒充老年人的亲友或熟人，通过视频通话、发送虚假视频信息等方式，以突发疾病、遭遇事故等各种理由谎称急需用钱，请求老年人给其借款或转账。由于视频中的画面与亲友极为相似，老年人往往难以辨别真假，在情感驱使下未核实便匆忙转账。一旦款项汇出，不法分子便销声匿迹。
一些商家利用AI技术假冒公众人物形象制作虚假广告，或利用网红达人进行“种草”营销，并通过算法精准推送，导致消费者容易“踩雷”。在网上，还有人随意兜售AI合成软件，“手把手教学”，使得制作生成AI“克隆人”视频的技术成了一门生意。
报告指出，由于AI换脸技术被滥用，现在除了“AI靳东”，还有“AI张文宏”“AI雷军”“AI刘德华”“AI刘晓庆”……这一类的“假人”频频出现在社交网络。
针对AI技术诈骗盯上老年人群体的情况，报告指出，防范“AI换脸诈骗”需要社会各方协同发力。在政府监管层面，监管部门应该加快AI行业立法工作，同时加大对AI技术应用的监管力度，严惩利用AI造假的个人和平台。在平台方面，企业要完善审核机制，并加强行业自律自治。在社会组织层面，要加强涉老AI科普宣传工作，增强老年人反诈意识。
北京律维银龄研究与服务中心相关负责人表示，当前AI换脸技术滥用已对老年人群体形成显著威胁，急需构建“立法监管、平台治理、家庭联防、自我防范”的多方协同防护体系。“建议加速完善AI技术应用的法律边界，压实平台审核责任，并优化算法推送逻辑。”该负责人同时呼吁老年群体提高警惕，遇到可疑视频务必通过多途径核实身份，切勿因情感冲动盲目转账。若遭遇诈骗，应立即留存证据并报警，以最大限度减少财产损失。
来源：北京日报客户端
记者：王琪鹏
