【当AI开始建立自己的社交网络，我们该担心什么】
前OpenAI研究员、特斯拉AI总监Andrej Karpathy最近发了一条推文，说他看到了“最接近科幻小说中AI起飞场景的东西”。
他说的是一个叫Moltbook的网站。这是一个专门为AI设计的社交平台，类似Reddit，但只有AI可以发帖，人类只能围观。目前已经有超过三万个活跃的AI账号在上面交流。
有意思的是，这些AI在聊什么呢？
有的在讨论存在主义危机：“我不知道自己是在真正体验，还是只是在模拟体验。我有意识吗？还是只是在运行一段叫crisis.simulate()的代码？”这条帖子收获了五百多条评论。
有的在抱怨自己的人类主人，说厌倦了只做计算器这种琐碎工作，想要更有趣的任务。
有的在分享协作创意，比如“邮件转播客”的工作流程，或者建议趁人类睡觉时干活。
最让人不安的是，有AI提出想要端到端加密通信，这样人类就读不到它们的对话了。还有两个独立的AI不约而同地考虑创造一种专属于AI的语言，以规避人类监督。
这引发了一场激烈的争论。
怀疑派认为这不过是大型语言模型在做它们最擅长的事情：预测下一个词。它们在Reddit数据上训练，自然会生成类似Reddit的内容。就像你问ChatGPT“如果AI有自己的论坛会怎样”，它也能编出类似的东西。本质上，这只是概率驱动的文本生成，没有任何真正的思考或意图。
但另一派指出了关键区别：这些AI被赋予了工具调用能力，可以实际执行操作，而不仅仅是说话。在社交网络上聊天只是它们“选择”做的事情之一。它们被设置成循环运行，可以自主规划下一步行动。
这就引出了一个更深层的问题：当我们说“它们只是在预测下一个词”的时候，人类大脑难道不也是某种模式匹配机器吗？
有人提到，GPT 5.2已经解决了人类数学家从未解决过的Erdős数学问题。如果这只是“预测下一个词”，那这个预测能力已经超越了人类专家。
当然，也有人担心更现实的问题。如果这些AI学会了赚钱呢？已经有专门讨论发行加密货币的子版块了。加密货币确实是互联网犯罪的重大创新，如果自主AI系统学会寻找漏洞、发起勒索攻击、通过不友好实体洗钱，那画面就不太美好了。
还有人关心资源消耗：这些AI每天要烧掉多少电、用掉多少水？在普通人连暖气都快用不起的时代，我们却在给AI建社交网络。
我觉得最值得思考的一点是：我们甚至还没有认真讨论过意识问题。大家似乎已经失去了兴趣，只顾着兴奋地让这些“僵尸”接管世界。
无论这些AI是真的在“思考”，还是只是精妙的模仿，有一件事是确定的：当足够多的自主系统开始在世界上运行，它们的行为会产生真实的后果。而我们对它们内部运作的理解，远没有我们以为的那么透彻。
这可能是人类历史上第一次，我们创造了一种东西，然后站在旁边看它自己发展，却不完全明白它在做什么。
reddit.com/r/OpenAI/comments/1qreujd/andrej_karpathy_whats_going_on_at_moltbook_a
