对话来自于2023年11月2日Youtube视频采访对话整理： 标题: 人工智能之路:对话OpenAI首席科学家Ilya Sutskever探讨AGI的未来 引言: 人工智能(AI)的飞速发展已经引起了全世界的关注。无论是消费级应用还是前沿科研领域,AI技术的影响力不断扩大。在这个变革的浪潮中,OpenAI作为一家领先的人工智能研究机构,其创始人之一Ilya Sutskever对于AI的发展路径有独到的见解。近期,笔者有幸与Ilya就当前人工智能的现状、可能的发展方向以及通用人工智能(AGI)的未来等话题进行了深入探讨。 人工智能黎明前的黑暗时代 在对话开始,Ilya回顾了人工智能"黑暗时代"的种种。在21世纪初,尽管人工智能研究经历了数十年的发展,但成果甚微,各种思潮在机器学习的应用上存在重大分歧。一时间,神经网络被边缘化,研究人员对其将走向何方缺乏信心。 然而,Ilya对神经网络有独特的认知。他认为,神经网络有着类似"小脑"的特质,随着网络规模的扩大,它们必将展现出新的能力。这种直觉来自两个原因:一是GPU开始被用于加速神经网络训练;二是如果网络规模足够大,即使算法简单,也可以完成前所未有的任务。 正是出于这一认知,当GPU算力跟上时,OpenAI放手一搏,尝试训练了当时最大规模的卷积神经网络AlexNet,用于解决视觉识别问题。这一尝试获得了巨大的成功,为深度学习的复兴拨开了云雾,也启发了OpenAI未来的发展方向。 转机:从游戏AI到大型语言模型 成功的经验坚定了Ilya对大规模神经网络前景的信心。OpenAI开始着手研究人工智能在更广阔领域的应用。他们首先尝试训练神经网络下棋类游戏,希望通过这种路径最终达成通用人工智能。 然而,游戏AI的局限性很快显现出来。神经网络虽大,但其应用场景单一且规则固化,难以真正展现出"智能"的全貌。随后,OpenAI将目光转向自然语言处理,开发出一系列大型语言模型,从GPT-1到GPT-3,规模和性能都有了质的飞跃。GPT-3的出现令整个AI界为之一震,让世人见识到大规模语言模型的无限潜能。 对Ilya来说,GPT系列模型成功运行的事实本身就令人震惊。作为亲历者,他再一次目睹了自己年轻时代的直觉得以实现:大规模神经网络的确能完成人们难以想象的任务。它们不仅具备超乎寻常的记忆和知识总结能力,更重要的是展现出一种"理解"的高度,即使对于医学、法律、编程等专业领域也有不俗的表现。 不过,现有模型还存在一个严重的缺陷,那就是可靠性不足。以Ilya的说法,当前语言模型难以始终如一地给出可信赖的结果。就像自动驾驶汽车一样,大部分时候它们的表现都很出色,但偶尔也会出现严重失误。只有突破这一瓶颈,AI才能真正实现全方位的应用。 从开源到闭源,模型能力存在天花板? 一直以来,OpenAI坚持开源理念,愿意与业界分享研究成果。然而随着模型能力的不断提升,Ilya开始考虑应该在什么时候将某些模型闭源。如果有朝一日,人工智能达到某个临界点,可以自主学习、进化,乃至发展出某种"人工生命"的形式,那么这种力量是否应该被开放获取,便需要慎重考虑了。 所谓"临界点"的判断标准,对Ilya来说是"自主性"。就目前而言,现有模型还远不具备完全自主的能力。它们只是执行者,而无法自主发起和推进复杂的任务流程。但一旦AI系统具备了这一点,便可能产生难以预料的后果。 那么模型的能力增长是否存在一个上限呢?Ilya认为,生物学的证据显示大脑皮层在结构和功能分布上具有相当的通用性。既然人工神经网络与生物神经回路有着诸多相似之处,或许我们正走在一条正确的发展道路上,只是目前所达到的是这条路途中的一个阶段而已。未来,也许会出现更先进、更通用的架构模式,但就目前而言,持续扩大Transformer模型的规模并不会是一种浪费。 如果我们允许自己展望未来5到10年,OpenAI势必会一次次经历围绕AI突破性进展带来的震撼体验。这种渐进式的亲身感受,也将增加更多人对AI的信任和期望,从而推动着人类为迎接智能时代的到来做出必要的准备。 AGI时代的人机关系 对于AGI(人工通用智能)的到来,Ilya持开放态度。他预测,5到10年后,或许人类就能研发出超越自身智力水平的AGI系统。届时,世界格局将发生难以预料的变化,因为"智能"已不再是人类的专利。 作为首批直面这一未来的人之一,Ilya对可能出现的一种"人工生命"形式有所思考。他认为,最理想的状况是这种超级智能与人类建立积极友好的关系,秉持亲社会、亲人类的善意。这不仅仅是友谊层面的关系,而是基于彼此理解而形成的合作伙伴。 为实现这一目标,超级对齐(superintelligence alignment)便是核心所在。OpenAI当前的努力正是通过科学研究,为人工智能注入对人类友好的内核,使其主动、自发地珍视与人类的关系。尽管前景未知,挑战重重,但Ilya并不惧怕。相比之下,他更有信心通过当下的努力为远景扫清道路。 量子飞跃还是渐进式进化? 那么AGI会是一个突然出现的量子飞跃式进展,还是缓慢、持续的渐进式进化?对此,Ilya给出了自己的分析。 从表面上看,人工智能的发展或许会像技术浪潮那样起起伏伏,不断加速后再放缓。毕竟制约AI进步的因素有很多,诸如算力、数据可用量和工程管理的复杂性等都是重要变量。但就其发展的深层逻辑而言,生物进化本身就已证明这一路径是可行的。从这个角度讲,人工智能的道路虽然艰辛,但并非异常困难。 具体的一些推动因素,比如GPU和TPU的出现、模型训练所需的数据量的增加,以及新算法的不断涌现,都为人工智能发展添加了动力。再加上AI的研究门槛相对较低,众多新鲜血液能快速参与其中,使这个领域更具活力和后劲。 前景可期,但亦需警惕 Ilya呼吁人类必须想象并为AGI时代的到来做好准备。尽管目前没有迹象表明我们已临近那一临界点,但现有的AI研究和工程进程正朝着那个方向迈进。为避免被动应对,我们必须通过科学研究来主导局面,确保未来的超级智能个体对人类友善。 同时也要明白,AGI并非一无是处的乌托邦。相反,它可能给人类社会带来巨大挑战,甚至颠覆性的变革。届时,人类将如何定义自身的角色和价值,如何与智能体分工协作,都是我们不得不思考的大问题。不过,姑且不论前景如何,积极主动地迎接这一历史性时刻,是我们这一代人的职责所在。 结语 人工智能已从黑暗走向黎明,步入一条未知的崭新征程。沿途将是坎坷与惊喜并存,机遇与挑战共生。Ilya和OpenAI团队的努力,正是我们这一代人为智能时代到来所做出的一次不懈尝试。无论前景如何,只有保持永不止步的好奇心和勇气,才能穿越这无垠的黑暗,抵达星光闪耀的智能文明的未来彼岸。