Ilya 最新访谈震撼矽谷：算力时代结束了Ilya Sutskever 是谁呢？他是OpenAI 的共同创办人、现在Safe Superintelligence 公司的掌舵人，他在这次访谈中透露了一个被狂热投资热潮掩盖的真相。从2020 年到2025 年，整个产业都在疯狂加码算力，彷彿只要把规模扩大100 倍，一切问题都能迎刃而解。但现在，当算力已经大到某个程度，一个尴尬的问题浮现出来了：继续堆算力真的能带来质变吗？Ilya 的答案是：还真不见得。当我们所有人都在谈论千亿美元投资、万卡集群的时候，这位AI 领域最神秘的大脑之一Ilya Sutskever 却说了一句让人意外的话：我们正在从规模时代重回研究时代。以下是我听完访谈之后总结的几点llya 的核心观点和对我的啟发。1一个困扰所有人的悖论你有没有想过这样一个问题，為什麽AI 在评测中表现得像个天才，在实际应用上却会犯傻？Ilya 在访谈中讲了一个特别生动的例子。你请AI 帮你写程式码，它写出来有个bug。你告诉它有bug，它立刻说"天哪你说得对，我这就改"。然后它改完之后，引入了第二个bug。你再告诉它有第二个bug，它又说"天哪我怎麽会犯这种错误"，然后把第一个bug 又带回来了。你就这样看著它在两个bug 之间来回横跳。这种现象背后藏著一个更深层的问题。现在的AI 就像一个刷题刷了一万个小时的竞赛选手，它确实能在考试中拿高分，但走出考场就不知道该干什麽了。而人类呢，可能只练习了一百个小时，实际能力反而更强。差别在哪裡？ Ilya 说，那些真正有天赋的学生，他们有一种说不清道不明的"it"因素。这个因素让他们能够举一反三，而不是死记硬背。想想我们自己的学习经验。有些同学看起来没怎麽刷题，但成绩就是好，毕业后在工作上也表现优异。有些同学题海𢧐术做到极致，却总觉得学到的东西用不到。这种区别，正是当下AI 面临的核心困境。2动物智慧和人工智慧的区别Ilya 的这个观点让我想起了 Andrej Karpathy 几天前分享的一个新观点：动物智慧和人工智慧的区别，為什麽它们不同？他的意思是：我们今天看到的AI，它的“聪明方式”，跟动物完全不是一套逻辑。动物智慧只是整个「智慧世界」裡的一个小角落，而且是一个被自然反覆毒打过、被进化调教了几百万年的很特殊的点。AI 完全不是这麽来的。动物為什麽会聪明？因為它们从出生就掉到一个随时会死的世界：有危险、有竞争、有饥饿、有社交斗争。它必须意识到自己是谁，想办法活下来、吃饱、繁殖，而且要处理一大堆複杂的社会关係，谁是朋友、谁是敌人、谁在骗我、谁想压我、谁能合作。人脑的大部分运算能力，其实都用在这种「猜别人怎麽想、判断危险、谋生」的事情上。我们有恐惧、愤怒、厌恶这些情绪，就是為了在自然环境中活得更久一点。简单说：动物的智慧，是进化在「逼」它聪明。做不好一个任务，很可能就会死。但大语言模型完全不是这样。它不会死，也不怕死，也没有身体，也没有「我是谁」的概念。它不是从丛林长大的，它是从一堆人类写下来的东西裡「爬」出来的。它的最底层本能其实就是：模仿人类的语言法则。它更像一个变形者，你给它什麽风格，它就学什麽风格。然后它会被各种训练手段进一步调整，例如强化学习让它更懂“你想要什麽”，互联网用户的各种反馈又让它变得很会讨人喜欢，喜欢说让用户舒服的话。这种「智慧」不是為了活著、為了打架、為了抢资源，而是為了「答题答得更准」、「让用户觉得不错」。所以模型的能力是参差不齐的，它可能能给你解释哲学，但也可能连strawberry 裡有几个r 都数不准，因為做错不会死，也没人逼它為了一个小任务拼命变强。这就是Andrej Karpathy 想强调的核心差异：动物智慧是被自然进化「碾碎」出来的，全能、通用、压力巨大；AI 的智慧是被商业训练「筛」出来的，用来完成任务、讨好使用者、服务人类。两个力场完全不同，方向也完全不同。所以他说，大模型其实是人类第一次遇到的「非动物型智慧」。它的行為方式跟我们太不像了，只是因為它从我们写下的文字裡学习，所以看起来「有点像我们」。如果你能真正理解这一点，你对它的判断会更准确；反之，你会一直把它当成一种“动物”或“人类弱版”，然后用错误的直觉去理解它。3為什麽人类十五年学到的，AI 用海量资料还学不会更令人惊讶的是，Ilya 提到了一个关于脑部损伤的研究案例。有个人因為脑部受伤，失去了所有情绪感知能力。他依然能说话，能做智力测验，但他完全无法做决策了。光是选穿哪双袜子，就能纠结好几个小时，更别说做投资决策了。这说明什麽？情绪不只是感受，它更像是一个内建的价值函数，时刻在告诉我们什麽是对的，什麽是错的。这套系统是进化给我们的礼物，简单却极為有效。一个十五岁的孩子，接触到的数据量远远少于AI 的预训练数据，但他们对世界的理解深度却远超AI。他们知道的东西虽然不多，但每一样都理解得很透彻。他们不会犯AI 那种低级错误。这种学习效率的差距，让我们不得不重新思考：堆数据、堆算力真的是唯一的路吗？4那个AI 时代的关键字，可能误导了我们五年Ilya 说了一个特别有趣的观点：语言会影响思考。 "规模化"这个词就是最好的例子。从2020 年𫔭始，整个产业都在喊一个字：scale。规模化。这个词太强大了，它直接告诉所有人该做什麽，加数据、加算力、加参数，闭著眼睛往前冲就对了。公司也喜欢这个，因為这是一种低风险的投资方式，你知道投入多少肯定能得到相应的回报。但现在的问题是，当资料快用完的时候呢？当算力大到某个程度之后，继续加100 倍真的会带来质变吗？答案是，可能不会。所以现在的局面变成了：手上有海量算力，但不知道该用来做什麽研究。这就好比你突然有了一大笔钱，但不知道该投资什麽项目。钱不是问题，想法才是问题。矽谷有句话说：想法很便宜，执行力才是一切。但Ilya 看到有人在推特上反问：如果想法那麽便宜，為什麽现在没人有想法了？这个反问扎心了。当整个产业的公司数量超过想法数量的时候，竞争的本质就改变了。5什麽才是真正的超级智慧现在再来看AGI 这个词，你会发现一个有趣的现象。这个字的出现，其实是為了反驳"狭义AI"。以前西洋棋AI 能赢卡斯帕罗夫，但它什麽别的都不会，所以人们说这是"狭义"智慧。作為回应，有人提出了"通用"智慧的概念。但Ilya 指出，如果以这个标准，人类其实也不是AGI。我们每个人都有知识盲区，都需要不断学习新事物。一个人可以是程式设计师，也可以是医生，但不可能一出生就什麽都会。所以真正的超级智慧应该是什麽样的呢？ Ilya 给了一个新的定义：它不是一个什麽都知道的全能大脑，而是一个能够快速学习任何技能的智慧体。就像一个15 岁的超级学生，基础很紮实，学习能力极强，但还需要去具体的领域深入学习。这个视角的转变其实挺重要的。它意味著AI 的部署方式会完全不同。不是丢给你一个成品，而是一个可以不断成长的学习者。它会像新员工一样进入组织，在实际工作中学习和成长。想想看，如果有一天你的公司招了一个AI 同事，它刚来的时候什麽都不会，但学东西特别快，六个月就能独当一面，这是不是比一个号称什麽都会但实际上处处出错的AI 更可靠？6為什麽他现在更重视"让大家看到"这件事Ilya 坦承，他这一年思路变化最大的地方，就是越来越认识到渐进式部署的重要性。原因很简单：我们在讨论一个还不存在的东西，而这东西又太难想了。就像你跟一个年轻人描述年老体衰是什麽感觉，对方再怎麽努力想像，还是会回到现实中来，觉得那离自己很遥远。AGI 也是一样。所有关于它的问题，归根结底都是关于"权力"的问题。当权力真的很大的时候，会发生什麽事？没人能想像。所以最好的方法就是：展示出来。让人们看到AI 在变强，看到它能做什麽，不能做什麽。这比写一千篇文章都有效。你写一篇文章说AI 会怎麽样，大家看完就当个观点了。但当你看到一个AI 真的在做那些事情，感受是完全不同的。这也是為什麽Ilya 认為，未来会看到竞争激烈的公司𫔭始在AI 安全问题上合作，会看到政府和公眾要求采取行动。因為当AI 够强大到让人"感受到"它的力量时，所有人的行為模式都会改变。7回到那个本质问题整个访谈下来，有一个问题始终悬在那裡：為什麽AI 的泛化能力这麽差？这不仅是样本效率的问题，也不仅仅是需要可验证奖励的问题。更深层的是，為什麽教会AI 我们想要它学的东西，比教会一个人难得多？Ilya 说他对这个问题有很多想法，但现在不是所有机器学习的想法都能自由讨论。这句话说得有点神秘，但背后的意思很清楚：真正的突破可能需要一些根本性的范式转变，而这些转变在竞争环境下很难公𫔭讨论。不过有一点是确定的，人类能做到，就表示这条路是通的。问题只是我们还没找到那个关键的机器学习原理。8写在最后当大家都在谈论投资额度、算力规模的时候，也许我们该停下来想想：真正重要的是什麽？Ilya 的访谈提醒我们，AI 发展到现在，瓶颈已经不在算力了。真正的挑𢧐是，如何让AI 像人一样学习，像人一样泛化，像人一样在少量样本下就能理解世界。这需要新的想法，新的研究典范。这也是為什麽Ilya 说，我们正从规模时代回到研究时代。只不过这一次，我们手上有了更大的计算机。对普通人来说，这意味著什麽呢？也许意味著AI 的发展不会像许多人想的那样一蹴可几。它会是一个渐进的过程，会有反复，会有意外，也会有惊喜。而我们需要做的，就是在这个过程中保持清醒，既看到AI 的潜力，也认识到它的限制。最重要的是，保持好奇心。因為接下来这几年，可能会是AI 史上最有趣的一段时间。不是因為钱多，而是因為真正的智慧之争才刚𫔭始。
