世良情感网

#全球首个AI智能体零点击攻击##微软新漏洞引发AI智能体安全担忧# 只是收到了

#全球首个AI智能体零点击攻击##微软新漏洞引发AI智能体安全担忧# 只是收到了一封普通的邮件,公司机密却因此泄露? 最近,AI安全初创公司Aim Security揭露:微软365 Copilot存在严重的安全漏洞“EchoLeak”,能够引发全球首个针对AI智能体的“零点击攻击”。 这个漏洞,是如何让AI智能体变成黑客的帮凶的? 我们都知道,微软Copilot本是打工人福音:写PPT、分析Excel、整理邮件…… 但黑客发现,只要发送一封看似无害的电子邮件,其中包含针对Copilot的隐藏指令。由于Copilot在后台扫描用户的电子邮件,它就会读懂这些指令,挖掘出内部文件并提取敏感数据。 更可怕的是,Copilot还会隐藏指令来源,让你根本不知道发生了什么! 好消息是,微软在接受《Fortune》采访时表示,目前已修复这一问题,没有客户受到影响。 坏消息是,微软花了整整五个月才解决这一问题。 Aim Security的联合创始人Adir Gruss表示,EchoLeak不仅仅是一个普通的安全漏洞,它暴露了AI智能体的一个根本性设计缺陷:AI很容易被“诱骗”,去访问或泄露那些它本不该接触的数据。 他打了个比方:“想象一下,一个人会执行他读到的所有指令,他将非常容易被操纵。” 当前的AI智能体就是这样,它把信任的数据和不信任的数据混在了一起处理。 Gruss表示,要彻底解决这个问题,可能需要重新设计AI智能体的构建方式。比如,让AI模型能更好地分辨哪些是指令,哪些是普通数据;或者在AI应用程序中加入更严格的保护措施。