OpenAI的一系列辞职仍在继续:关键的AI安全专家离职

探索点小小科技 2024-11-14 01:48:41
OpenAI 的一系列辞职仍在继续:关键的 AI 安全专家离职

OpenAI 的关键人才之一 Lilian Weng 宣布退休。Weng 在公司工作了 7 年,担任安全开发系统部门负责人,并于今年 8 月获得晋升。在平台 X (Twitter) 上的一份声明中,她指出她将离开 OpenAI 以“重新开始并尝试新事物”。

图片来源:Levart_Photographer/Unsplash

据 TechCrunch 报道,Weng 的最后一个工作日将是 11 月 15 日,但她没有宣布她的未来计划。“我离开 OpenAI 是一个极其艰难的决定,”Weng 承认。“回顾我们所取得的成就,我为安全团队的每一位成员感到非常自豪,并完全相信团队将继续蓬勃发展。”

Weng 并不是唯一一个离开公司的专家。在过去的一年里,安全研究人员已经离开,高管们也指责该公司将商业产品置于 AI 安全之上。今年早些时候,已解散的 Superalignment 团队的负责人 Ilya Sutskever 和 Jan Leike 离开了 OpenAI,该团队正在开发控制超级智能 AI 系统的方法。

Weng 于 2018 年加入 OpenAI,在一个机器人团队开始了她的职业生涯,该团队创造了一个能够在几秒钟内解决魔方的机械臂。随着 OpenAI 过渡到 GPT 范式,Weng 于 2021 年加入了 AI 应用研究团队。自 2023 年推出 GPT-4 以来,她领导了一个拥有 80 多名员工的安全开发团队。

OpenAI 报告称,管理层正在寻找 Weng 的替代者。“我们非常感谢 Lilian 对突破性安全研究和创建强大技术保证的贡献,”OpenAI 发言人在一份声明中说。“我们相信,安全团队将继续发挥关键作用,确保我们为全球数亿人提供服务的系统的可靠性。”

值得注意的是,10 月,从事 AI 政策工作的 Miles Brundage 离开了公司,之后 OpenAI 宣布解散 AGI(人工智能)团队。同一天,《纽约时报》发表了对前 OpenAI 研究员 Suchir Balaji 的采访,他表示,他离开公司也是因为他认为其技术对社会弊大于利。

0 阅读:0

探索点小小科技

简介:感谢大家的关注