根据最新研究，宾夕法尼亚大学的研究人员发现了一系列人工智能增强型机器人系统存在严重的安全漏洞，这些系统容易受到黑客攻击和控制。他们开发了一个名为RoboPAIR的机器人攻击技术，并成功地对多个设备进行了攻击。
研究人员表示，RoboPAIR在黑客攻击这些设备方面取得了100%的成功率。他们使用了一个大型语言模型（LLM）来指导机器人进行攻击，通过配备目标机器人的应用程序接口（API）来实现。这种攻击方式使得黑客可以以一种设备能够执行代码的方式来格式化提示词。
这项研究得出结论，迫切需要实施防御措施来物理限制由大型语言模型控制的机器人。乔治·帕帕斯教授警告说：“我们的研究表明，在将大型语言模型与物理世界集成时还不够安全。”其他研究人员也指出，黑客攻击人工智能控制的机器人“惊人地容易”。
