【“假拜登来电”、霉霉“不雅照”疯传……#AI造假何时休#？】据美国媒体报道，1月21日起，不少选民称接到了通过一家人工智能初创公司的技术“深度伪造”的美国总统拜登电话呼叫。该通话伪造拜登的声音，希望选民在1月23日的共和党党内初选中不要出门给共和党和特朗普投票，要把选票留到11月大选时投给民主党。“您今天的投票并不重要，重要的是十一月的投票。”

22日，白宫发言人卡里娜·让-皮埃尔证实，这一来电是“伪造，不是由总统录制”。随后，“假拜登来电”迅速成为美国多家媒体的热门话题。

除了声音伪造，另一起AI伪造知名歌手不雅照的案例也引发了社交媒体的震动，并惊动白宫回应。

近日，一组AI生成的泰勒・斯威夫特（霉霉）虚假不雅照在X（原推特）等多个社交平台疯传，这组图片在封禁前被浏览了超过千万次，这让霉霉及其粉丝感到愤怒。

该事件引起美国白宫的注意，发言人皮埃尔表示对这些图片的流传感到担忧，并强调社交媒体平台有责任采取行动阻止这类内容传播。X也紧急回应，称持零容忍态度，并采取了一项临时措施——于1月27日暂时屏蔽了“泰勒・斯威夫特”词条的搜索结果。

南都记者注意到，今年年初，香港特首李家超也深受AI伪造困扰。有诈骗分子假造李家超的视频向香港市民推介一项投资计划。其中一条视频盗用了香港无线电视访谈节目片段，利用AI技术合成虚假配音，将主持人与李家超的对话伪造成投资计划推介。短片中，李家超向观众宣称用2000港元投资，每周便可取到60000港元回报，而且收益免税。另一条视频中，李家超提及马斯克也参与了这一投资计划，随后AI合成的马斯克现身，协助推介虚假投资计划。

为防止市民误信，1月24日香港特区政府紧急发布新闻公告，严正澄清该电视节目片段为AI伪造，特首本人从未发表相关言论，已转交警方跟进该事件；政府强烈谴责不法之徒的诈骗行为，并呼吁市民对类似投资推介视频提高警惕，切勿轻信。

从AI拟声、合成虚假照片，再到生成视频，一起起案例背后指向的是深度合成技术。所谓深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。此前，网络上广为流传的“俄罗斯大学生AI换脸成普京”“特朗普说汉语”等涉及“换脸”“仿声”的视频，也有赖于这项技术的支撑。

由于公众人物的视频、音频、图片资料的公开性，为AI训练提供了大量素材，也因此名人经常成为AI伪造的受害者。