2025年春节前夕，中国人工智能领域悄然掀起一场革命。DeepSeek以557.6万美元的超低训练成本完成V3模型迭代，仅是OpenAI GPT-4o模型训练成本的不到十分之一。同时，DeepSeek非常慷慨地公布开源策略，推动人工智能行业走向更加开放、合作的崭新时代。这场技术突围恰似数字时代的“寒武纪大爆发”，不仅颠覆了“大模型必属巨头”的产业认知，更催化了全球AI竞赛格局的重构。
然而，自DeepSeek问世起，针对性的高强度网络攻击就不断爆发，给人工智能行业敲响了坚守安全底线的警钟；各种质疑和争议接踵而至，如DeepSeek与OpenAI之间的“蒸馏”争议，抛开行业竞争和地缘因素不谈，在某种程度上可以说是触及了AI技术的本质与“知识所有权”的伦理困境。
与此同时，OpenAI 前首席科学家 Ilya Sutskever 的离职及其新公司 Safe Superintelligence 的融资估值突破 200 亿美元，再次将 AI 安全与伦理问题推上风口浪尖。
在新书《人工智能时代与人类价值》中，亨利·基辛格、埃里克·施密特与克雷格·蒙迪深入探讨了这一领域的深层次挑战。书中警告，如果技术继续迅猛发展，而人类未能明确界定与机器的本质区别，我们可能会将决定人类价值的任务交给机器——这是人类文明面临的重大考验，值得每一个科技从业者和政策制定者深思。
消失的边界：大公司主导的世界
今天，拥有和开发人工智能的公司将积聚起可碾轧一切的社会、经济、军事和政治权力。各国政府则被迫成为私人公司的东道主和啦啦队长，运用自己的军事实力、外交资本和经济影响力促进本土利益。
与此同时，各国政府还扮演着平民百姓支持者的角色，而平民百姓则对垄断集团的贪婪和隐秘疑虑重重。夹在私人公司东道主兼啦啦队长与平民百姓支持者角色之间的各国政府被迫煞费苦心地左右应付。
这对矛盾也许无法化解。人工智能的问世将使任何既有机构的治理难上加难。与此同时，大公司或许会结成同盟，巩固已很强大的自身实力。这些同盟或靠互补优势和合并而起，或因对开发和部署人工智能系统有共同理念而兴。
这些公司同盟也许会承担传统民族国家的职能，不过不会去界定和开拓边界已划定的地盘，而是会深耕分散的数字互联网，把它作为自己的领地。
还有一种可能。如果对源代码的扩散放任不管，有可能会导致冒出一些小团伙或集团。它们拥有的人工智能足以胜任在有限范围内的治理、供给和自卫职能。人类中的有些团体排斥现存权威机构，赞成权力分散的金融、通信和治理。这类团体也许最终会坠入人类之初那种原始无政府状态，抑或这类团体也许会掺入宗教因素。
就影响范围而言，基督教、伊斯兰教和印度教的影响毕竟超过了历史上任何一国的影响，延续时间也更长。在未来，宗教教派也许比国籍更能界定身份和忠诚。
以上两种未来无论哪一种，公司同盟主导也好，分散成为结构松散的宗教团体也罢，每个团体争取的新“地盘”将不再是以尺寸计算的土地，而是显示个体用户忠诚的数字设备。人工智能将颠覆传统意义上的公民概念。
对全球科学界而言，当务之急是找到可以在每一个人工智能系统中加入内在安全保障的技术手段。各国和国际组织一旦达成共识，就必须为监督、执行和应对危机建立新的政治结构。这需要解决两个而不是一个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。
重新分配：从稀缺走向富足
在过去的两个世纪里，资本主义民主基本上用精英领导的市场取代了种姓制度和俘虏制；教士们提升了高尚的职业道德所具备的社会价值，学者们则对其加以记录；工人们也已经掌握了谈判和罢工的技巧。
但即便如此，无论我们人类的劳动是受雇于神灵，还是受雇于政府，抑或只是为了保障一份谋生工资，我们在工作方面的身心付出总的来说与其说是为了我们自己，不如说是为了服务他人。
地球上相对固定的土地、劳动力和资本供应导致了稀缺性——而不是丰裕性，引导了斗争的发生。激烈的斗争是围绕如何划分已经创造出来的东西，甚至更多的是为了如何分配所剩无几的那点东西而展开的。这些摩擦既涉及社会内部，也涉及不同社会之间。
即使在和平时期也是如此，公民们争论着造成社会相对弱势群体的根源，并呼吁重新分配，以解决普遍存在的苦难这一事实。扩大可用于再分配的财富总量，进而实际扩大再分配财富的数量，将提高全世界人类的生活水平。
人工智能的出现提供了一个真正的机会，通过将人类的劳动功能转移到机器上，取代了至少一种原始的生产要素。此外，人工智能还将用于研究和开发日益廉价与丰富的原材料来源，作为对其自身的投入。
人工智能可以为各种商品生产更具可持续性的合成替代品，从而开创一个新的富足时代。即使考虑到目前的一些物理和物质限制，人工智能的产出——尽管不是无穷无尽的——也可以达到相当宽裕的程度，足以满足人类所有基本需求，并实现我们的众多期待。这可能会让我们在心理层面不再那么受制于经济学的稀缺范式，以及我们为生存所迫而工作所导致的悲观情绪。
超越国界：从零和博弈到全球合作
OpenAI 首席执行官萨姆 · 奥尔特曼根据两个变量对经济体系进行了分析：增长和包容性。许多社会至少在一个时期内能够实现两者中的一个，但能够持续保持两者的社会则少之又少。
对这种关系，奥尔特曼写道：资本主义是经济增长的强大引擎，因为它奖励人们投资于能够长期产生价值的资产，这是创造和分配技术成果的有效激励制度。但资本主义进步的代价是不平等。
换句话说，人工智能及其带来的生产力提高可能会自然而然地催化一种长期的增长。但包容性只能通过选择来实现。因此，在后人工智能时代，或许解决方案会像奥尔特曼建议的那样，对两种“将构成那个世界大部分价值的资产”征税，即公司——尤其是那些建造、维护和使用人工智能的公司。
另一种选项则是从专利制度中汲取灵感：允许对人工智能发明及其利润拥有独家所有权，以激励改进，但仅限于有限的一段时间；超过一定期限后，假定其安全性已得到证实，该模型便可以被公布（或者，也许可以在新的地区制作副本并构建基础设施），以供共同使用、迭代和获益。
简而言之，人工智能的先驱们可能低估了他们所引发的经济和政治挑战所涵盖的范围。没错，人工智能几乎无所不能。未来的决策者必须小心谨慎，避免让工业革命时期蔓延开来的各种社会和经济不平等现象再度固化。
但是，正如萨姆 · 奥尔特曼所说：“它是要做我想做的事，还是要做你想做的事？”
如今，先进人工智能的绝大部分收益和几乎独有的控制权都掌握在极少数人手中。他们会放弃自己的优势吗？如果他们这样做了——而且当更多的利益和更多的控制权在国家层面共享时——那么要求将两者全球化的呼声就会立即响起。
一个国家会将其主权财富转化为全人类的共同利益吗？有些人可能会说，一旦这个世界不再是零和博弈，将其视为牺牲的心理障碍就会消失。但这是以一种尚未实现的转变为前提的，这种转变似乎与今天的现状背道而驰。
此外，即使我们能够成功到达一个超越稀缺的世界，也并不清楚届时应如何构建全球人类的激励机制以保持和谐融洽。即使在一个因物质丰腴而令物品“价值”不再至关重要的世界中，依然会充斥着各种“价值观”。
那些不以金钱为立身之本的人可能会以宗教、种族、家族血统、教育、道德、技能、审美、幽默感或其他类别为基础进行交流，然后重新部署社会和全球机构。那些不为金钱而战的人也可以为上帝、权力、荣耀或复仇而战。
此外，经济史也证明，人们很难设计出既连贯又有效的系统。我们必须承认，人类在预测技术的长期影响方面一直不甚擅长；就人工智能而言，我们的乐观可能毫无道理，我们的担忧也可能是杞人忧天。
未来，人工智能将成为世界秩序中的一个关键因素。零恐惧、零偏袒的人工智能为客观的战略决策引入了一种新的可能。
人工智能将缩小最初意图与终极结果之间的差距，包括动用致命武器。无论是陆地上的无人机“蜂群”，还是海上部署的机器军团，或者也许是星际舰队，机器将拥有精确的杀人能力，不会有什么意外，而且造成的后果无法估量。潜在毁灭的规模大小将完全取决于人和机器的意志与克制。
在核时代，在某种意义上我们其实已经步入这一阶段。随着人工智能证实自己作为一种战争武器的价值，这一阶段的动态趋势和意义会变得越来越清晰。
尽管如此，我们仍相信，人工智能可以作为创造人类财富和福祉的新基准，而这种可能性本身就敦促我们朝着这个方向努力。
和往常一样，48小时内点赞留言前三我们将免费赠送一本给粉丝！
- end -
上下滑动阅读更多内容
安 昀 | 鲍无可 | 包承超 | 包斅文 | 贲兴振 | 薄官辉
毕天宇 | 曹 晋 | 曹 霞 | 曹文俊 | 常亚桥 | 常 蓁
常 远 | 崔建波 | 陈璇淼 | 陈一峰 | 陈 栋 | 陈 平
陈 媛 | 陈立秋 | 陈 军 | 陈觉平 | 陈 浩 | 陈文扬
陈 宇 | 陈金伟 | 陈国光 | 陈思靖 | 陈 鹏 | 陈 玮
陈乐天 | 陈轶平 | 陈良栋 | 陈连权 | 陈怀逸 | 陈圆明
陈 文 | 成念良 | 程 彧 | 程 洲 | 程 琨 | 程 涛
崔 莹 | 蔡嵩松 | 蔡 滨 | 蔡 晓 | 蔡宇滨 | 蔡志鹏
蔡志文 | 丁靖斐 | 代云峰 | 邓炯鹏 | 董伟炜 | 董 超
董 梁 | 杜晓海 | 杜 洋 | 杜 沛 | 杜 广 | 冯明远
傅奕翔 | 付 斌 | 付 娟 | 付伟琦 | 费 逸 | 范 洁
范庭芳 | 范 杨 | 方钰涵 | 方 纬 | 方 抗 | 方 建
方 昶 | 高兰君 | 高 远 | 刚登峰 | 葛 晨 | 顾耀强
顾益辉 | 谷琦彬 | 归 凯 | 管嘉琪 | 郭 锐 | 郭 堃
郭相博 | 巩怀志 | 韩 冬 | 韩海平 | 韩 冰 | 韩 林
郝旭东 | 郝 淼 | 何 帅 | 何晓春 | 何 琦 | 何以广
贺 喆 | 霍东杰 | 侯振新 | 侯 梧 | 侯 杰 | 洪 流
胡昕炜 | 胡鲁滨 | 胡宜斌 | 胡 涛 | 胡 伟 | 胡志利
胡 喆 | 胡 颖 | 胡 迪 | 黄 峰 | 黄 力 | 黄立华
黄 波 | 黄 晧 | 黄垲锐 | 黄莹洁 | 黄立图 | 姜 诚
姜 英 | 蒋 鑫 | 蒋 璆 | 江 勇 | 江 琦 | 江 虹
纪文静 | 焦 巍 | 贾 鹏 | 贾 腾 | 金晟哲 | 金笑非
金梓才 | 季新星 | 季 鹏 | 匡 伟 | 孔令超 | 阚 磊
劳杰男 | 蓝小康 | 雷 鸣 | 雷 敏 | 雷志勇 | 李德辉
李 琛 | 李晓西 | 李晓星 | 李元博 | 李耀柱 | 李玉刚
李健伟 | 李 建 | 李佳存 | 李 巍 | 李 竞 | 李 君
李振兴 | 李 欣 | 李少君 | 李 瑞 | 李文宾 | 李 彪
李宜璇 | 李子波 | 李 倩 | 李 燕 | 李 崟 | 李怡文
李 海 | 李禹成 | 厉叶淼 | 黎海威 | 廉赵峰 | 梁 浩
梁 辉 | 梁 力 | 梁永强 | 梁文涛 | 梁 鹏 | 廖瀚博
林 庆 | 林剑平 | 林 森 | 刘 斌 | 刘 波 | 刘 冬
刘 辉银华 | 刘 辉东方红 | 刘格菘 | 刘 江 | 刘莉莉
刘晓龙 | 刘 苏 | 刘 锐东方红 | 刘 锐中信保诚 | 刘 平
刘 潇 | 刘 兵 | 刘 晓 | 刘开运 | 刘元海 | 刘心任
刘志辉 | 刘伟伟 | 刘 鹏 | 刘宇涛 | 柳世庆 | 柳万军
陆 彬 | 陆政哲 | 陆 欣 | 陆 航 | 陆 奔 | 陆文凯
罗春蕾 | 罗世锋 | 罗佳明 | 罗远航 | 罗 雨 | 骆 莹
吕佳玮 | 吕越超 | 闾志刚 | 楼慧源 | 马 翔 | 马 龙
马 磊 | 毛从容 | 莫海波 | 苗 宇 | 闵良超 | 牛 勇
倪权生 | 农冰立 | 彭凌志 | 彭成军 | 彭 玮 | 潘中宁
潘 明 | 蒲世林 | 齐 皓 | 祁 禾 | 邱璟旻 | 邱世磊
丘栋荣 | 邱 杰 | 钱伟华 | 钱亚风云 | 秦 毅 | 秦绪文
曲 径 | 饶 刚 | 任琳娜 | 任 明 | 桑 磊 | 宋海岸
宋 华 | 宋 洋 | 岁 寒 | 石海慧 | 石 波 | 沈 楠
沈雪峰 | 沈 怡 | 史 伟 | 是星涛 | 苏谋东 | 苏俊杰
孙 芳 | 孙 伟民生加银 | 孙 伟东方红 | 孙轶佳 | 孙浩中
孙梦祎 | 孙 蒙 | 孙文龙 | 邵 卓 | 邵佳民 | 盛震山
唐颐恒 | 唐 华 | 提云涛 | 汤 慧 | 谭冬寒 | 谭鹏万
谭 丽 | 田彧龙 | 田 瑀 | 田宏伟 | 屠环宇 | 陶 灿
万建军 | 王大鹏 | 王东杰 | 王 刚 | 王君正 | 王 涵
王 俊 | 王 培 | 王 鹏 | 王 栩 | 王延飞 | 王宗合
王克玉 | 王 景 | 王诗瑶 | 王晓明 | 王奇玮 | 王筱苓
王园园 | 王 垠 | 王文祥 | 王 睿中银 | 王 睿中信保诚
王海涛 | 王登元 | 王 健 | 王德伦 | 王艺伟 | 王浩冰
王 斌 | 王晓宁 | 王 浩 | 魏晓雪 | 魏 东 | 魏建榕
韦明亮 | 翁启森 | 吴 星 | 吴 达 | 吴培文 | 吴丰树
吴 印 | 吴 渭 | 吴 越 | 吴 弦 | 吴 坚 | 吴 悠
吴江宏 | 伍 旋 | 武 杰 | 肖瑞瑾 | 肖威兵 | 肖 觅
谢书英 | 谢振东 | 徐荔蓉 | 徐志敏 | 徐 成 | 徐 斌
徐 博 | 徐志华 | 徐习佳 | 徐 爽 | 徐智翔 | 许文星
许 炎 | 许望伟 | 许利明 | 薛冀颖 | 夏 雨 | 颜 媛
闫 旭 | 杨 栋 | 杨 浩 | 杨 瑨 | 杨锐文 | 杨 帆
杨岳斌 | 杨 明 | 杨 飞 | 杨晓斌 | 杨 鹏 | 杨 梦
杨立春 | 姚 跃 | 姚志鹏 | 尹海影 | 尹粒宇 | 叶 松
叶 展 | 易智泉 | 易小金 | 于 渤 | 于 洋 | 于善辉
于浩成 | 于 鹏 | 俞晓斌 | 袁 宜 | 袁 航 | 袁 曦
袁多武 | 袁争光 | 余小波 | 余芽芳 | 余科苗 | 张 芸
张丹华 | 张东一 | 张 凯 | 张 峰富国 | 张 峰农银汇理
张 锋 | 张汉毅 | 张 晖 | 张 慧 | 张金涛 | 张翼飞
张 骏 | 张剑峰 | 张 竞 | 张 萍 | 张 帆 | 张延鹏
张迎军 | 张益驰 | 张鸿羽 | 张 弘 | 张 航 | 张 寓
张宇帆 | 张 杨 | 张 堃 | 张仲维 | 张 勋 | 张 靖
张 亮 | 张西林 | 张晓龙 | 张浩佳 | 张亚辉 | 张 腾
张 英 | 张 明 | 张馨元 | 章 恒 | 章 晖 | 章旭峰
章秀奇 | 章鸽武 | 詹 成 | 赵大震 | 赵晓东 | 赵 强
赵 剑 | 赵浩添 | 赵 伟 | 赵鼎龙 | 庄 园 | 曾 刚
郑澄然 | 郑慧莲 | 郑 科 | 郑 磊 | 郑巍山 | 郑 伟
郑泽鸿 | 郑 日 | 郑 宁 | 周 晶 | 周应波 | 周克平
周 良 | 周雪军 | 周 云 | 周 杨 | 周 崟 | 周寒颖
周智硕 | 周文群 | 朱 平 | 朱 赟 | 朱晓亮 | 朱晨曦
钟 赟 | 钟 帅 | 朱 熠 | 左金保 | 赵 蓓 | 智 健
邹立虎 | 邹维娜 | 邹 唯 | 邹 曦 | 邹新进
