12月15日，微信珊瑚安全公众号发布《关于打击利用AI仿冒知名人士进行营销宣传的公告》。

公告称，近期有媒体报道

网络存在利用AI技术

仿冒名人进行不当营销的现象

为守护用户权益

避免消费者上当受骗

结合用户举报、日常巡查等线索

微信从速从严打击了

一批利用AI仿冒知名人士

进行不当营销、恶意博取流量

的违规行为

并针对相关情况开展专项治理

截至目前

累计处置内容532条

关闭账号209个

典型案例如下：

下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时也倡导广大用户自觉遵守法律法规与平台规则。

针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。

竟然还有假拜登、假马克龙

这两年，名人被AI已成常态。“假靳东”迷倒一众大妈，“假雷军”辣评世间百态，种种乱象轻则为当事人带来困扰，重则催生诈骗案件。AI造假的人物也突破文娱、商业等领域，甚至波及了政要群体。“假拜登”公然宣布第三次世界大战开始，“假马克龙”直播回答“政府聘用灭霸”，“假岸田文雄”召开线上发布会等案例都曾令世界一片哗然。虽然声讨反思不断，但并未阻止AI造假的步伐，纯粹恶搞还是用以犯罪几乎都在失控状态。

最近，有网友发消息称，“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，家里的老人信以为真，已经开始下单了。

但仔细辨认可以发现，带货视频为AI合成。目前，这段视频已在该账号内不可见，但商品橱窗内显示这款蛋白棒已售出千余单。

张文宏医生表示：“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。我在发现这个事情后立即投诉过那个AI合成的视频，但他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。”

不能放任AI为所欲为一骗再骗

业界人士认为，当前AI技术发展来到螺旋式上升的拐点，未来几年技术迭代将会按月计算。合成技术门槛持续降低，逐渐向低算力、小样本学习方向演进，利用手机终端即可完成。同时，随着AI技术加持，正逐步由面部合成向全身、3D合成发展，效果更加逼真。

也就是说，今后依靠一部手机，就能轻松合成一个覆盖全身的假视频，迷惑指数直线上升。2024人工智能安全报告显示，2023年基于AI的深度伪造欺诈增长了3000%，若不能有效打击，这个数字必然会继续飙升。

近两年，我国已相继出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规定，让刚性治理有了更多抓手。当务之急是有法必依、执法必严，广而告之典型案例，提高震慑力度。广大平台更要守土尽责，强化AI标识提示，对越界视频及时下架、违法账号及时封禁。

“有图有视频，就是没有真相”，这将成为信息传播的灾难。如果与AI共存将是未来生活的常态，那么有效治理、打击犯罪必须大幅加码，不能放任AI为所欲为、一骗再骗。

来源：微信珊瑚安全公众号 北京日报

编发：喻思薇

审核：唐晓煜

出品：湖北日报融媒体中心

湖北日报客户端，关注湖北及天下大事，不仅为用户推送权威的政策解读、新鲜的热点资讯、实用的便民信息，还推出了掌上读报、报料、学习、在线互动等系列特色功能。