阿尔特曼遭流放真相曝光,神秘算法Q*为何被视为人类威胁?

愣头青说历史 2023-11-24 17:47:17

11月22日,消息人士指出,在董事会决定流放阿尔特曼的四天之前,有几位公司的资深研究人员曾致信董事会,警告了一项强大的人工智能发现。他们称,这一发现可能会威胁人类。

于是,董事会组织了一场秘密谈话,在谈话中,研究人员们表达了对人工智能取得潜在突破的担忧。他们认为,阿尔特曼在不仅这项研究中故意隐瞒了项目推进的速度,而且他的其他行为也严重违背了公司的初衷,包括将人工智能新技术过早商业化、在公司的重大战略问题上固执己见等。

事后多方猜测,正是在这次秘密会议上,董事会下定决心解雇阿尔特曼。消息人士称,这是因为阿尔特曼在与董事会沟通时没有始终保持坦诚。

Q*在特定方面已经超越人类

据公司的内部人士透露,这项曾直接导致阿尔特曼离任的人工智能技术代号为Q*。

关于Q*是什么,目前有两种解释。一种解释认为Q*可能指的是Q-Learning(Q学习)的同义词;另一种解释则认为Q*是公司借助Q学习算法打造的新模型的代号。还有一种解释认为Q*仅仅是一个内部项目名称。

内部人士还称,Q*的最大特点是,在大多数需要考量经济意义的任务中,Q*的表现远超人类。例如,Q*很可能擅长解决复杂的多阶段问题,即动态规划方程。通常在该方程中,运行算法的人可以输入一个目标函数,例如“旅行时间最短、成本最低、利润最大、效用最大”等。然后,算法将决定采取何种最佳行动来实现预期结果。

目前看来,Q*凭借公司所掌握的海量计算资源,已经能通过内置模型解决某些数学问题。消息人士称,在阿尔特曼被解雇之前,公司内部已经对Q*进行了演示。

内部人士称,Q*已经能够解决小学程度的数学问题。虽然这在目前看来可能并不特别令人惊讶,但研究人员对Q*在现阶段取得的进展感到十分满意,并对其未来的成功表示十分乐观。

Q*或将成为未来人工超级智能的一部分

随着Q*的出现,公司的研究水平可能已经达到了一个新的层次。一般来说,在生成式人工智能的领域中,对于同一个问题可能有多种答案——大模型会通过各式各样的统计和预测来为用户进行写作和语言翻译。然而在Q*的数学推理模式下,一个问题只会有一个答案。这大大降低了人工智能交互发散的概率。

目前已经有媒体在讨论Q*是否能在未来步入人工超级智能的范畴。如果Q*真的能够步入人工超级智能的范畴,那么它可能代表着公司在人工智能领域的研究已经取得了重大突破。

就在被解雇之前,阿尔特曼曾在公开活动中表示:“公司已经取得了4次突破。”最近一次突破可能就是指Q*的出现。

0 阅读:2
评论列表

愣头青说历史

简介:了解人生百态!