前言:本文是根据论文“飞行模型:智能与意识基本原理的新探索”的部分内容进行扩展形成,主要对构建智能和意识的基本原理需要面对的关键问题进行探讨。论文地址:http://dx.doi.org/10.13140/RG.2.2.24518.28484
构建智能与意识的基本原理是人工智能与智能科学领域的核心任务之一。自21世纪初以来,人工智能技术迅速发展,尤其是大语言模型(如ChatGPT)的兴起,引发了公众和学术界对通用智能实现时间、人工智能能否产生自我意识以及未来研究方向的广泛讨论和争议。
关于AI能否产生自我意识的问题不仅引起了社会恐慌,还在世界顶级的人工智能科学家之间引发了激烈争论。深度学习之父Hinton认为,随着AI系统日益复杂,可能已经出现了“小规模的意识”,并可能进一步发展。他警告AI可能超越人类智能,带来潜在风险。相比之下,Facebook AI研究院首席科学家LeCun则持更谨慎态度,认为当前AI距离真正的智能和意识还很远。他强调AI需要发展自主学习和理解能力,而非仅依赖数据处理。引发这种恐慌和争论的根本原因在于,人工智能或智能科学尚未建立起稳固的基础理论,缺乏公认的基本原理。因此,智能科学尚不能被视为一门成熟的学科。
学术界对智能与意识的基本原理进行了深入研究,提出了多种定义,从不同角度为理解这两个概念提供了框架。关于智能的定义,Sternberg认为智能是个体适应环境、塑造环境及选择新环境的能力,强调了智能在个体与环境交互中的适应性作用。Russell则从计算的角度,将智能定义为在有限资源约束下实现目标最优化的能力。Stone等人指出,智能系统应具备在多样环境中稳健工作的能力,即使在信息不完全或环境动态变化的情况下,也能最大化实现既定目标。Legg和Hutter强调智能在广泛环境中实现目标的普适性,即智能应能在各种不同环境中表现出色。这些定义从适应性、计算性、稳健性和普适性等不同维度刻画了智能的特征,为理解和研究智能提供了理论基础。
关于意识的理论主要包括全局工作空间理论,该理论认为意识来自于大脑不同区域之间的广泛信息交互与整合;整合信息理论提出,意识是由于大脑内部信息的高度整合而产生的,整合的信息量可以定量计算;高阶理论强调,意识源于对自身心理状态的高阶表征,即“思考我在思考”;复馈/预测处理理论认为,意识来自于大脑对输入信息的预测和预测误差的最小化过程。最新研究进展包括Graziano提出的注意架构理论,该理论将意识视为一种特定的注意信息处理模式;Friston等人提出的自由能原理,该原理试图从最小化感知信息熵的角度来解释意识。
现有理论从不同视角阐释了智能和意识的机制原理和神经基础,但仍存在诸多局限。最为突出的问题是,它们往往忽视甚至缺失对产生智能和意识主体的讨论,即“谁”能够产生智能和意识,这些主体具有什么共同特征。这些主体不仅包括人脑,还包括能够产生智能和意识的其他动物、植物、微生物,以及AI程序、机器人、虚拟空间中的NPC、正在寻找中的外星生命、宗教和哲学中的上帝、物理学中的拉普拉斯妖和麦克斯韦妖等角色。他们共同的特征是存在智能,但智能特征出现差异的原因是什么?需要指出的是,对于这些智能主体,脑并不是产生智能的唯一器官,很多智能主体并不存在脑结构,但同样具备智能。
第二和第三个关键问题是,缺乏对智能和意识产生的内在动力和目的的描述,即是什么动力驱动智能主体产生智能和意识,产生智能和意识的最终目的是什么。一些理论给出了回答,但描述还不足够充分和达到本质。例如,“目标最优化”、“最大化实现既定目标”、“实现目标的普适性”等提到了目标,但明显还不是最终目标。在动力学方面,自由能原理提出“智能系统通过最小化自由能来维持其内部模型与外部环境之间的一致性”作为其动力学机制,但这种内外部的一致性目前依然存在争议。
第四个关键问题是如何界定智能和意识之间的关系。从目前智能和意识的定义可以看出,智能和意识在定义时往往被分开处理,定义智能时很少提到意识,而在定义意识时,又往往与智能的特征混淆。例如,全局工作空间理论认为意识是大脑不同区域之间的广泛信息交互与整合,而这一特征同样可以定义为智能的特征。此外,对于一些智能主体,并不存在大脑,其产生的意识和智能无法被归类为大脑的一种功能。
第五个关键问题是如何区分意识的四种类型,如自我意识、他者意识、混合意识和无意识。我们在使用意识时,一般指的是自我意识,但意识还包括他者意识和混合意识。如果没有自我意识和他者意识,一个智能主体还可能没有意识。一个智能和意识的理论需要对如何区分这四种类型进行说明。
我们认为,目前智能和意识的理论对这五个关键问题没有充分回答,是引发不同定义之间的分歧,阻碍系统性智能与意识理论体系形成的根本原因。我们将这五个关键问题凝练如下:
1.产生智能与意识的系统是否具有统一的功能结构?
2.一个系统产生智能与意识的最终目标是什么?
3.驱动系统产生智能与意识的动力机制是什么?
4.如何界定智能与意识的关系,并明确其概念边界?
5.如何区分自我意识、他者意识、混合意识与无意识?
我们认为建立智能与意识基本原理框架,应需要充分回答以上五个关键问题。是否存在第六、第七或更多关键问题,也期待智能科学领域的研究者们进一步提出。
论文《飞行模型:智能与意识基本原理的新探索》主要围绕回答这五个关键问题展开。作为一种探索和尝试,提出了构建智能与意识基本原理的新思路和研究路径。
中文版简要介绍:《图解智能和意识基本原理的“飞行模型”》https://blog.sciencenet.cn/home.php?mod=space&uid=39263&do=blog&id=1439479
论文地址:http://dx.doi.org/10.13140/RG.2.2.24518.28484
中文版简要介绍:《图解智能和意识基本原理的“飞行模型”》https://blog.sciencenet.cn/home.php?mod=space&uid=39263&do=blog&id=1439479