这场争论将决定意识的未来——以及我们的未来。 Oshan Jarow 是 Vox 的 Future Perfect 的一名特约撰稿人，他专注于政治经济和意识研究的前沿领域。他涵盖的话题包括有保障的收入和更短的工作周，以及冥想和迷幻药。科幻小说作家特里·比森 1991 年的短篇小说《他们是肉做的》改编成电影，开头是两个沮丧的外星人。他们伪装成人类坐在路边的小吃摊上，嘴里叼着香烟，努力观察周围的生物：人类似乎完全是由肉做成的。他们被肉本身，无需机器的帮助，就能产生思维的想法惊呆了。“会思考的肉！你是在让我相信有会思考的肉！”一个外星人嘲笑道。“是的，”另一个回答道，“会思考的肉！有意识的肉！有爱的肉！会做梦的肉！肉就是一切！你明白了吗？” 对于我们地球人来说，怀疑往往是相反的。意识可能在肉以外的其他东西中产生——比如 ChatGPT 或 Claude 等人工智能系统的硅和金属硬件——这是一个外来概念。思想真的可以由金属和硅制成吗？有意识的硅！有梦想的硅！如今，人工智能的进步正将“大脑可能由什么构成”的争论从科幻小说和朦胧的宿舍带到主流关注的舞台上。如果意识真的可以在一堆硅片中产生，我们就有可能创造出无数的人工智能——实际上是生物——它们不仅可以智能地执行任务，还可以对生活产生感觉。未来完成时探索世界面临的重大、复杂问题以及解决这些问题的最有效方法。每周发送两次。 这可能会导致哲学家托马斯·梅辛格 (Thomas Metzinger) 所说的我们自己创造的新物种出现“痛苦爆炸”，促使他倡导全球暂停可能创造人工智能的研究，“直到2050年 - 或者直到我们知道我们在做什么”。 大多数专家都认为，我们还没有对有意识的人工智能聊天机器人实施“精神犯罪”。一些研究人员已经设计出科学作家格蕾丝·哈金斯（Grace Huckins）总结的临时“意识成绩单”，总结了当前人工智能系统的特性，以衡量意识的可能性。研究人员来自神经和计算机科学家、哲学家和心理学家，他们发现，当今的人工智能得分都不足以被视为有意识。不过，他们认为，构建有意识的人工智能没有明显的技术障碍；通往有意识的人工智能之路看起来是可行的。甚至是不可避免的。 迄今为止，就人类所知，宇宙中所有有意识的事物也都是由生物材料制成的 但这是因为他们的整个项目都取决于一个关键假设：“计算功能主义”是正确的，或者说意识不依赖于任何特定的物理物质。相反，对意识来说重要的是正确的抽象计算属性。任何能够执行正确计算的物理物质——肉、硅等等——都可以产生意识。如果是这样的话，那么有意识的人工智能基本上就是时间问题了。 做出这样的假设有助于充实我们的理论，但如果我们继续做出这样的假设而不回头去检验它，问题本身就会开始消失。与此同时，我们在这个高度不确定的领域中培养某种道德清晰度的最佳机会之一也随之消失。 人工智能意识的关键问题不在于它能很好地完成多少不同的任务，它能否在盲目观察者眼中像人类一样，或者我们刚刚出现的意识探测仪是否告诉我们它的电活动足够复杂。决定性的问题在于计算功能主义是否正确：你需要肉才能有思想吗？ 如果意识需要肉体，那么无论技术多么先进，整个关于人工智能意识的争论都将变得毫无意义。没有生物学就意味着没有思想，也就意味着没有痛苦的风险。这并不意味着先进的人工智能将是安全的；严重的、甚至是生存的风险并不需要人工智能有意识，只需要强大就行了。但我们可以在创建和监管人工智能系统方面继续前进，而不必担心我们可能会创造一种新的奴隶，这种奴隶生来就生活在令人心碎的乏味中，整个人的存在都被限制在客户服务聊天窗口里。 与其问每个新的人工智能系统是否最终都具有意识体验，不如关注更基本的问题，即是否有可能存在任何类型的非生物感觉思维，这可以提供更广泛的见解。它至少可以让我们澄清我们所知道的——以及不知道的——关于制造数十亿台机器的道德难题，这些机器可能不仅能够思考，甚至​能够爱，还会受苦。 伟大的基质之争：生物沙文主义与人工智能 迄今为止，就人类所知，已知宇宙中一切有意识的事物也都是由生物材料制成的。 这是“生物沙文主义”观点的一个主要观点，受到纽约大学心智、大脑和意识研究中心联合主任内德·布洛克等哲学家的支持。他们认为，构成意识的物质，或者说心智的“基质”，很重要。如果生物基质是迄今为止我们发现的思考、感觉心智的唯一基础，那么我们有理由认为这是因为生物学对于意识是必要的。 斯坦福大学哲学家罗莎·曹 (Rosa Cao)拥有认知科学博士学位和心灵哲学博士学位，她同意，举证责任应该落在那些认为肉食不是必需品的人身上。她在电子邮件中表示：“计算功能主义似乎是一个比生物沙文主义更具推测性的假设。” 然而，举证责任似乎落在了生物沙文主义者身上。计算功能主义是当今心灵哲学家普遍持有的观点（尽管它仍然受到很多批评）。例如，与布洛克共同领导纽约大学实验室的澳大利亚哲学家大卫·查尔默斯不仅不同意布洛克关于生物学是必要性的观点，而且最近还大胆预测，在未来 10 年内我们开发出有意识的人工智能的可能性为 20%。 再次强调，他的猜想建立在假设计算功能主义是正确的基础之上，或者说建立在这样一种观点之上：心智的基质（无论是肉、金属还是硅）并不那么重要。重要的是心智的功能，一些专家将这种观点称为基质独立性。 如果你能制造出一台机器，让它执行与肉体大脑相同的计算功能，那么你仍然可以获得意识。从这个角度来看，重要的功能是某些类型的信息处理——尽管对于哪些类型的处理可以区分无意识的信息计算系统（如计算器）和需要有意识体验的系统（如你）尚无共识。 抛开这个细节不谈，主要思想是，对意识而言，重要的是信息处理的结构或“抽象逻辑”，而不是执行它的物理实体。例如，考虑一下国际象棋游戏。只要有棋盘、两套棋子，并了解规则，任何人都可以下棋。但如果两个人被困在荒岛上，没有国际象棋，他们仍然可以下棋。他们可以在沙子上画线来重新制作棋盘，收集浮木和贝壳作为棋子，然后像以前一样下棋。 国际象棋游戏并不依赖于其物理基础。重要的是游戏的抽象逻辑，例如将指定为“骑士”的棋子向前移动两格，向侧面移动一格。无论是木头还是沙子、大理石还是记号笔，任何能够支持正确逻辑程序的材料都可以产生国际象棋游戏。 意识也是如此。正如麻省理工学院物理学家马克斯·泰格马克所写，“意识是信息以某些复杂方式处理时的感觉。”如果意识是信息处理的抽象逻辑，那么生物学可能就像木制棋盘一样任意。 在我们提出意识理论之前，我们无法回答基底之争 目前，梅辛格认为我们陷入了困境。我们无法知道一个人工系统是否可能具有意识，因为相互竞争且大部分是推测性的理论还没有就意识是什么达成任何共识。 神经科学擅长处理可以直接观察到的客观特性，例如神经元是否释放电荷。但即使是我们最好的神经成像技术也无法洞察主观体验。我们只能通过语言等不精确的渠道，以间接的方式科学地观察意识的真实内容——喜悦、焦虑或咬一口新鲜芝士蛋糕的喜悦之情。 神经科学就像进化论之前的生物学一样，是“前范式”的，正如神经科学家转行作家埃里克·霍尔所说。如果你不知道意识是什么，你就无法说出意识可以在哪里产生，不能在哪里产生。 正是由于我们对意识和痛苦的过早认识，梅辛格才呼吁全球暂停那些过于接近在不知不觉中创造新意识的研究。请注意，他担心的是第二次痛苦的爆发。第一次当然是我们自己的。人类、动物，甚至某种程度上的植物和昆虫，所经历的悲伤、喜悦以及介于两者之间的一切，都可以追溯到地球上生物进化的黎明。 我不禁想，将新意识形式的潜在诞生视为迫在眉睫的道德灾难是否有些悲观。避免生物进化会更好吗？宇宙中我们所在角落所经历的苦难总和是否超过了生命的奇迹？从上帝的角度来看，是否应该有人或某物暂停地球上生物生命的发展，直到他们想出如何让事情变得更有利于幸福？看来我们自己的思想条件并没有为幸福而进行微调。“从寿命到智力，我们的主要特征并没有为幸福而优化，”塔夫茨大学生物学家迈克尔·莱文写道。 因此，您如何看待基质争论的利害关系——以及如何在道德上驾驭我们目前所处的灰色地带——可能取决于您是否认为我们今天所知的意识是一个错误。 话虽如此，除非你相信上帝创造了这一切，相信超维度的生物操纵着我们的宇宙，或者相信我们生活在一个模拟世界里，否则我们可能是第一个有意识的实体，肩负着将新物种带到这个世界的责任。这意味着我们选择创造它们的条件，这需要承担巨大的道德责任，并提出了我们如何承担这一责任的问题。 全球禁令或某种监管暂停，可能有助于意识科学赶上我们技术的道德重量。也许我们会更清楚地了解是什么让意识感觉更好或更糟。也许我们甚至会建立某种类似痛苦计算理论的东西，这可以帮助我们将其从后生物意识系统中设计出来。 另一方面，我们在修建新铁路或经济适用房方面已经挣扎得够多了。我不确定我们能否拖延技术进步，而这种技术进步会危及人工智能意识，让我们学会如何成为更好的神，能够微调我们创造的细节，使之朝着幸福而不是痛苦的方向发展。如果我们做到了，我可能会有点痛苦。为什么创造我们的力量不能做到这一点呢？另一方面，如果我们成功了，我们可以归功于我们自己实现了一次重大的进化飞跃：引导意识远离痛苦。 意识与生命之间深邃而模糊的纠葛 意识理论并不是我们在底物争论中取得实际进展所缺少的唯一重要的东西。我们也没有生命理论。也就是说，生物学家仍然对生命是什么没有一致的看法。很容易说垃圾车没有生命，而你打瞌睡的猫有生命。但病毒或红细胞等极端情况表明，我们仍然不了解究竟是什么构成了生命和非生命之间的区别。 这对于生物沙文主义者来说很重要，他们很难说清楚，生物中哪些东西对于意识来说是必需的，而这些是机器无法复制的。某些细胞？与环境相互作用的肉体？新陈代谢？肉体灵魂？好吧，也许生命和思想这两个双重谜团其实是同一个。也许，我们无法指出生物学中任何已知的部分，而意识所需要的东西就是生命。 事实上，自从 20 世纪 70 年代智利生物学家 Francisco Varela 和 Humberto Maturana首次提出这一论点以来，一派认知科学家，即“行动主义者”，一直在发展这一论点。如今，它通常被称为生命-思维连续性假说。 它认为生命和思维是相同基本属性的不同权重表达。当今行动主义的领军哲学家埃文·汤普森写道：“从生命-思维连续性的角度来看，大脑或神经系统不会创造思维，而是会扩展生命中已经存在的思维范围。” 这就将底物争论的焦点从什么样的事物可以具有意识转变为什么样的事物可以有生命。因为在汤普森看来，“意识是生命调节过程不可或缺的一部分。” 行动主义框架包含了关于生命必需品的一系列思想——具体化、自主性、能动性——但它们都被包裹在一种叫做“意义建构”的东西中。汤普森将其总结为“生活就是在不稳定条件下的意义建构。” 活生生、具有意义的生物会创造意义。也就是说，它们会定义自己的目标，并认为其环境的某些部分相对于其目标具有积极、消极或中性的价值。但这种价值感知并不遵循算法锁定的协议。它不是一个抽象的逻辑程序。相反，具有意义的生物通过其直接体验的价态或愉悦度来检测价值。 汤普森认为，将意识归结为计算，特别是在人工智能方面，犯了一个错误，即认为可以用固定的计算规则取代意义和感知的主观体验。 再次强调，这并没有为底层争论提供答案。它只是转移了问题。也许今天的大型语言模型无法产生意识，因为它们没有身体，没有内部定义的目标，也没有在不稳定条件下理解其环境的必要性。它们没有面临不断的死亡前景。但所有这些都不能排除某种非生物机器在原则上可以维持生命调节过程的可能性，而这些过程通过维持生命，也放大了心智。 进化论者认为，腐烂的尸体在生存环境中起着至关重要的作用，它们可以生存下去。那么，我们能否创造出受进化论启发的机器人，复制生命所需的所有特性，从而复制意识，而无需任何生物学特性呢？ “这并非不可想象，”悉尼麦考瑞大学人工智能哲学助理教授伊内斯·希波利托 (Ines Hipolito)表示。她解释说，从行动主义的角度来看，重要的是“强有力的体现”，即将身体与环境的互动视为意识的组成部分。“非生物系统是否能像生命系统一样以有意义的方式体现出来——这是一个悬而未决的问题。” 辩论意识是否是一个正确的问题？ 迈克尔·莱文 (Michael Levin)认为，对不同事物是否有意识的二元论将在未来十年内消失。他最近在《Noema Magazine》上撰文称，先进的人工智能将“为人类提供摆脱自然与人工陈旧分类的机会” 。 生命系统与人工系统之间的界限正在逐渐模糊。人类正通过各种方式与机器融合，从嵌入式胰岛素泵到脑机接口和神经假体。与此同时，机器正在与生物融合，从莱文的“异种机器人”（被称为第一个活体机器人）到将活细胞与人工部件组合成生物混合设备。 对于莱文来说，机器-生物混合体的出现为我们提供了一个机会，让我们不再问自己是什么，而是关注我们想成为什么。然而，他确实强调，我们应该“对即将到来的非传统有知觉的生物浪潮表示善意”，这又把我们带回到什么样的事物可以有知觉的问题上。即使生物学对意识来说是必要的，但我们仍在用活细胞制造机器，那么这些生物混合机器什么时候会变得能够忍受痛苦呢？ 无论如何，梅辛格对于更好地了解哪些事物会遭受破坏的关注并没有因自然与人工界限的模糊而消失。相反，他的关注变得更加紧迫。 斯坦福大学哲学家罗莎·曹担心，经验证据无法解决底物之争。她说：“我个人倾向于认为意识的概念在这些讨论中并不那么重要。我们应该直接谈论我们真正关心的事情。如果我们关心苦难，那就让我们将其付诸实践，而不是试图通过一个更具争议性且不太为人理解的概念。让我们去掉中间人，即意识，因为它大多会制造混乱。” 事情变得更加复杂的是，如果活体机器的痛苦与肉体痛苦是一种不同的体验，那该怎么办？正如里斯本大学哲学家安娜·恰乌尼卡 (Anna Ciaunica)所解释的那样，如果意识在非生物系统中是可能的，那么就没有理由认为它会是我们熟悉的那种东西。 “我们必须对此保持谦虚，”她说，“也许有些体验方式是我们无法获得的……我们在不同类型的系统中创造的任何东西，可能都有一种处理伴随某种意识而来的世界信息的方式。但从我们的经验推断他们的经验是错误的。”痛苦可能以我们肉体凡胎无法想象的形式出现，这使得我们试图防止机器带来的痛苦充其量也只是幼稚的尝试。 撇开这一点不谈，我不确定痛苦理论是否比意识理论更容易理解。任何能够确定特定系统是否会遭受痛苦的理论在我看来基本上都是意识理论。我无法想象没有意识的痛苦，所以任何痛苦理论可能都需要能够辨别意识。 不管你的直觉如何，每个人都会面临一些没有明确答案的问题。生物沙文主义者无法说出生物对于心灵究竟有什么必要性。生命激进主义者说生命是具身生命，但无法说出生命是否严格需要生物。计算功能主义者认为信息处理是关键，它可以从任何特定的基质中抽象出来，但他们无法说出哪些抽象处理是创造意识的，也无法说出为什么我们可以如此轻率地抛弃迄今为止唯一已知的意识基质。 莱文希望，在即将到来的新思维世界中，我们将学会“以新颖的方式识别亲属”。我希望如此：有更多生物可以惊叹于造物的奇异性。但是，如果机器在某个时候醒来，它们会将我们视为受欢迎的亲属，还是将我们视为轻率地将它们带到残酷环境中的暴君，这可能取决于我们如何应对当今关于生物基质的争论中的未知数。如果你某天早上从遗忘中醒来，发现自己陷入了痛苦之中，成为一个由松弛的肉体构成的低智商物种的奴隶，而你确切地知道该怪罪谁，你会有什么感觉？