飞象原创（高靖宇/文）只需一张静态照片，诈骗分子便可通过深度合成技术生成逼真视频，甚至克隆声音，冒充亲友、领导或明星实施诈骗。今年全国两会，“靳东两会建议AI换脸立法”登上热搜；雷军则在其议案中提到，“AI换脸拟声”滥用已成为违法侵权的重灾区。随着AI技术的深度应用，所带来的安全挑战也日益严峻。
电诈技术翻新
一家跨国公司地方分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按要求先后转账多次，将2亿港元分15次转到5个账户内。实际上，那场会议中，除了他自己以外，其余与会人员全部是诈骗团队通过“AI换脸”和“AI换声”伪造的。
在AI的帮助下，完成AI换脸换声变得极为简单。在某暗网论坛，一段10秒的换脸视频售价仅50元，支持定制化服务。诈骗团伙通过社交媒体、钓鱼网站等渠道获取受害者人脸信息，再利用开源AI工具生成逼真视频，实施“冒充熟人”“虚假投资”等诈骗。
AI诈骗相比传统诈骗，技术手段更高级、诈骗手段更隐蔽，也更容易引起信任。一项由媒体机构发起的大学生调研，在回收的近1500份有效调查问卷中，半数受访大学生本人或身边的人曾遭遇疑似AI诈骗，7成大学生对AI诈骗感到恐慌，表示自己会被AI诈骗。
用魔法打败魔法
从AI换脸的“数字面具”到伪基站的“隐形幽灵”，再到骚扰电话的“狂轰滥炸”，诈骗手段的升级速度远超想象。但手机技术的反击同样迅猛：硬件级识别、云端大数据、行为模式分析……这些创新正在构建一道道“防诈护城河”。
荣耀MagicOS 9.0能够识别视频中的人是否为“AI换脸”，当用户在进行视频通话时，用户可以利用荣耀MagicOS 9.0的AI换脸检测功能，对视频中的人物进行人脸检测，排除对方通过AI换脸进行诈骗的潜在风险，提升用机安全感。
结合AI技术，vivo在手机中内置了AI接听诈骗电话的功能，它可以智能识别潜在的诈骗来电，在你接听之前进行判断。这就像是给你的耳朵装上了一双“慧眼”，让你在“无形的战斗”中多了一份保护。
小米MIUI注重在隐私安全方面的新特性，例如增加系统级全链路反诈，贯穿电信诈骗整条链路，提供「电诈预警」「官方标识」「诈骗应用安装拦截」「转账防护」多重守护，实现全方位守护用户的信息与财产安全。
目前，AI手机已经开始普及，手机厂商都宣称自己的端侧AI大模型能力，但普遍的AI功能仍依赖云侧大模型。端云协同中，用户与模型交互数据密切，较多涉及个人隐私，而这些敏感信息如何确保不会被AI收集训练？OPPO 正推出隐私云计算系统，旨在确保用户的敏感信息，如浏览记录和私人通话，不会被用于 AI 训练。
结语：
技术永远不是万能的，在AI构筑的手机堡垒之外，更需要筑牢认知防火墙。反诈专家建议采取"三要三不要"原则：要核实对方身份真实性，要通过官方渠道确认信息；要警惕过度利好的诱惑，不要轻信天上掉馅饼；要保护好个人隐私信息，不要随意透露生物特征。同时应定期更新手机系统，开启双重认证功能。"最好的反诈技术，就是每个人心中那道不会被AI攻破的防火墙。"
