（本文转译自popsci.com）
据报道，AI语音克隆技术已经在2024年选举前掀起了波澜。根据新罕布什尔州检察长办公室周一发布的一份声明，上周末部署的一项机器人电话活动使用了乔·拜登总统的声音模仿，敦促收件人不要在该州1月23日的总统初选中投票。
“在这个星期二投票只会帮助共和党人再次选举唐纳德·特朗普。”一位由AI生成的拜登在电话中告诉居民。“你的投票在11月份有影响力，而不是这个星期二。”
这次虚假信息活动的策划者目前尚不为人所知，但根据新罕布什尔州前民主党主席凯西·沙利文在接受NBC新闻的独家报道时表示，“显然是有人想伤害乔·拜登”。
一个日益严重的问题
包括深度伪造音频、视频和图像在内的AI生成内容已经成为虚假信息专家们关注的问题。多个报告警告称，如今的媒体、互联网和社交媒体环境对即将到来的大规模伪造“假新闻”内容可能毫无准备，而2024年总统选举的激烈将进一步加剧这种情况。英国伦敦大学学院的研究人员最近进行的一项研究表明，AI生成的音频可以欺骗多达四分之一的听众。在YouTube上上传了1600多个深度伪造的名人视频，如泰勒·斯威夫特和史蒂夫·哈维推销“医疗卡”计划和其他骗局，累计播放量超过1.95亿次。但与AI奥普拉的“免费钱”骗局不同，最新的语音克隆案例明确意在影响美国的政治环境。
“令人不齿且对民主不可接受”
至于上周末的虚假信息活动，假拜登错误地声称新罕布什尔州的初选中有一项全州性的代笔活动将伤害总统连任的前景。机器人电话的信息最后附上了一个与凯西·沙利文相关的电话号码，导致周日晚上一连串的电话，促使这位前新罕布什尔州民主党主席向州检察长办公室报告情况。
新罕布什尔州检察长办公室在周一的声明中警告选民们忽视这条信息，并明确表示，“在新罕布什尔州总统初选中投票不会妨碍选民在11月的大选中再次投票。”
前总统特朗普竞选团队的代表否认与机器人电话计划有任何关联。与此同时，明尼苏达州国会议员迪恩·菲利普斯挑战拜登争夺民主党提名的发言人将这一诈骗活动描述为“令人担忧”。
菲利普斯竞选团队代表凯蒂·多兰告诉NBC新闻说：“任何试图打击选民积极性的行为都是令人不齿的，对民主制度是无法接受的。利用AI操纵选民的潜在行为是非常令人不安的。”
聊天机器人替代政客
然而，尽管有相反的警告，至少一些菲利普斯的支持者正在接受其他AI工具策略。上周晚些时候，《华盛顿邮报》指出，由亲菲利普斯超级政治行动委员会创建的聊天机器人Dean.Bot已被从OpenAI最近推出的在线商店中移除，因为它“有意违反了我们禁止政治活动的API使用政策”。
尽管受到责罚，菲利普斯仍然是一些硅谷顶级人物的宠儿。Dean.Bot背后的超级政治行动委员会“We Deserve Better”由OpenAI联合创始人、最近被解雇后又被重新雇佣的首席办公室主任的前副主席共同创立。阿尔特曼本人曾与菲利普斯会面，尽管他尚未对这位国会议员的竞选活动作出认可或正式捐款。
正在进行的调查
新罕布什尔州检察长办公室的声明指出，对AI总统机器人电话的调查仍在进行中，并鼓励居民们如果收到了以AI拜登开始的信息，其中他评论道“多么荒谬”，则应联系选举法律部门。
