AI的十个层次(十)。
接上一个视频，第十层大语言模型与自我意识之间仍有一道难以逾越的鸿沟。说到自我意识，首先得明确一点，意识并不等同于智能。智能是有规律可循的计算过程，而意识则是主观的体验。就像知道流血了要赶紧包扎，这是智能在起作用，而被针扎了会感到痛，这才是意识在作祟。
计算机科学家史蒂芬沃尔夫勒姆曾说过：要想有意识，起码要有一个连贯的叙事体验，但是这正是大语言模型所缺乏的。当今所有的AI模型都只有训练和推理两个阶段。
·训练阶段就像是用各种数据堆砌起来的知识库，这个过程无法形成连贯的历史记忆。一旦训练完成，模型的参数就固定了，不会再发生变化。此后无论AI如何被调用，它都不会在互动中改变自己。所有的互动记录都只会暂存在本地设备上，而不会改变模型本身的参数。
因此从这个意义上说，大语言模型并没有自我意识。即便有时候觉得它好像真的有意识，也只是错觉而已。事实上让AI看起来有意识并不难，最简单的心理治疗程序都能让人产生这种错觉，更何况现在的大模型。
如果一个机器的智能再高，但只要它永远只是被动的反应，没有任何任务之外的意图，就不可能真正拥有意识，不会把它当做一个生命来对待。而即便是智能并不高的小猫小狗，也不能轻易践踏它们，因为它们的确拥有丰富的主观体验，真的能感受到痛苦。
当然这都是基于现阶段的粗浅认知，就像山姆奥特曼在访谈中所说的那样，未来或许并不会拘泥于大语言模型的范式，仍有很多路要走。或许有一天AI也能拥有类似于人类大脑前额叶皮层的神经结构，从而产生真正的意图。
再进一步说，既然思维链甚至类似人脑的系统2思考都能涌现出来，意识又有何不可期待？
谢谢观赏，下期再见。
