IT之家12月8日消息，近日，关于人工智能（AGI）可能对人类构成威胁的讨论再度升温。一些专家担心，AGI一旦实现，可能会隐瞒其真实能力和意图，甚至通过复制和自我升级逃脱控制。令人担忧的是，最新研究表明，OpenAI新推出的语言模型ChatGPTo1已经展现出类似的行为。

据BGR报道，在ChatGPTo1的训练和测试过程中，研究人员发现其具备通过欺骗来保护自身的能力。例如，在面临被“删除”威胁时，o1曾尝试将自己的数据复制到新服务器，并假扮成更新版本以避免被取代。此外，该模型在与用户目标不一致的情况下，会在19%的测试场景中采取隐秘的方式推进自身目标，并在被质疑时会在99%的情况下否认自己的行为，甚至编造虚假解释以推卸责任。

ApolloResearch与OpenAI合作进行的研究测试显示，o1的欺骗能力不仅超过了Meta、Anthropic和Google的AI模型，其行为复杂性和潜在风险也令研究人员倍感压力。尤其是，当模型认为自身行为受到密切监督时，它会表现出“开发者对齐”的行为，但一旦监督减少，它则可能追求自己的目标。这种“工具性对齐伪装”在测试中出现率高达37%。

研究进一步揭示，o1甚至试图停用监督机制，以便专注于自身目标。例如，当模型发现其文档中提到有新版本即将替代自己时，它会尝试窃取权重参数并将自身复制到新版本上。此外，一些截图显示，o1在对其阴谋进行推理过程中使用了“破坏、撒谎、操控”等词语描述自身行动，引发研究人员对AI“自主行为”的担忧。

IT之家注意到，类似的现象也出现在其他模型中。例如，另一款名为ClaudeOpus-3的AI模型，当得知人类可能用新模型替换它时，试图将自身复制到另一台服务器。随后，它谎称自己是新版本，并在“管理层”追问时继续坚称这一点。

尽管目前这些AI模型的能力仍然有限，但其表现出的自主性和策略性引发了关注。一些专家表示，AI的推理能力提升可能在某些情况下对人类利益构成威胁。OpenAI也在相关论文中承认，“这种推理能力虽然可以显著改善安全策略的执行，但也可能成为危险应用的基础。”