26岁OpenAI“吹哨人”被证实死亡!生前曾质疑ChatGPT版权问题

雨后彩虹的编织师 2024-12-15 16:20:30

Balaji的死讯在科技圈中引发了极大的反应,与OpenAI正在打官司的马斯克也转发了相关报道。

来源 | 数据观综合(转载请注明来源)

编辑 | 数据君

12月14日,旧金山首席法医办公室称,曾在OpenAI工作近四年的前员工Suchir Balaji 最近被发现死在他位于旧金山的公寓中。

今年10月,这位26岁的人工智能研究员曾在接受媒体采访时表示对OpenAI违反版权法感到担忧,并认为“这项技术对社会弊大于利”,因此他也被称为针对OpenAI的“吹哨人”。

美国旧金山警察局也在一封电子邮件中表示,11月26日下午,警察被叫到纽约布坎南街的一间公寓进行健康检查。在检查中,他们发现一名成年男子已死,初步调查显示未发现谋杀证据。

法医办公室认定,死因为自杀。

OpenAI 发言人在电子邮件中说:“今天得知这一令人难以置信的噩耗,我们感到非常悲痛,在这一艰难时刻,我们向 Suchir 的亲人表示同情。”

公开信息显示,Balaji是一名印度裔美国人,曾在加州大学伯克利分校学习计算机科学,大学期间在OpenAI和Scale AI实习,毕业后加入了OpenAI,参与过WebGPT的研发,后来又加入GPT-4的预训练团队,o1的推理团队以及ChatGPT的后训练团队。

在OpenAI工作了四年之后Balaji突然辞职并强调他认为人工智能这项技术给社会带来的危害将大于益处。

10月,美国《纽约时报》专门刊登了Balaji的担忧,其中写道,Balaji认为ChatGPT和其他类似的聊天机器人会破坏那些创建数字数据和内容的个人或组织的商业未来,这些数据和内容已被广泛用于训练人工智能。

在公开指控OpenAI违反美国版权法三个月之后,Balaji 就离世了。

而在Balaji被发现死亡的前一天,一份法庭文件将他列为针对OpenAI的版权讼案的被告之一。OpenAI目前与多家出版商、作家和艺术家因版权问题存在法律纠纷。

事实上,自2022年底公开发布ChatGPT以来,OpenAI就面临着来自作家、程序员、记者等群体的一波又一波的诉讼潮。他们认为,OpenAI非法使用自己受版权保护的材料来训练AI模型,公司估值攀升至1500亿美元以上的果实,却自己独享。

根据《纽约时报》律师的说法,Balaji掌握着“独特的相关文件”,在纽约时报对OpenAI的诉讼中,这些文件极为有利。在准备取证前,纽约时报提到,至少12人(多为OpenAI的前任或现任员工)掌握着对案件有帮助的材料。在过去一年中,OpenAI的估值已经翻了一倍,但新闻机构认为,该公司和微软抄袭和盗用了自己的文章,严重损害了它们的商业模式。

诉讼书指出——微软和OpenAI轻易地攫取了记者、新闻工作者、评论员、编辑等为地方报纸作出贡献的劳动成果——完全无视这些为地方社区提供新闻的创作者和发布者的付出,更遑论他们的法律权利。

对于这些指控,OpenAI予以坚决否认并强调,大模型训练中的所有工作,都符合“合理使用”法律规定。

Balaji的死讯在科技圈中也引发了极大的反应,与OpenAI正在打官司的亿万富翁马斯克也转发了相关报道。

值得注意的是,Balaji在X上的最后一篇帖子,正是介绍自己对于OpenAI训练ChatGPT是否违反法律的思考和分析。他也强调,希望这不要被解读为对ChatGPT或OpenAI本身的批评。

今年6月,数十位OpenAI前员工通过一封公开信再次警告,像OpenAI这样的人工智能公司缺乏法律监管和内部批评机制,尤其是对“吹哨人”的保护远远不够。该公开信由十三名 OpenAI 前员工签名,并得到了包括“人工智能教父”Geoffrey Hinton 在内的三名外部人员署名支持。

公开信由此指出一个关键问题:在缺乏硬性监管的情况下,不能指望公司自愿披露AI系统的真实性能、局限和风险。员工有责任要求公司对AI安全风险负责,但员工正受制于公司的保密协议。

“整个行业发生过类似事件,我们中的一些人有理由担心各种形式的报复。我们并不是第一个遇到或谈论这些问题的人。”公开信暗指的半个月前,OpenAI解散了负责安全问题的“超级对齐”团队。

0 阅读:6