来源 | 中信出版
人工智能正席卷世界人工智能的大规模应用已如火如荼。放眼望去，软件已经深入生活的方方面面，帮助我们搜集和分析海量数据。这些数据正用于训练人工智能系统，使其能够在我们日常生活的几乎每个领域创造出更高效、更精准的产品。
同时，人工智能的获取和使用也变得日益便捷：因为有了如 Meta 的 PyTorch（一个开源的深度学习框架）和 OpenAI 的应用程序编程接口（API）这样的工具和基础设施，非专业人士也能轻松掌握尖端的机器学习能力。此外，5G（第五代移动通信技术）网络和其无所不及的连通性为我们构建了一个庞大且持续在线的用户群体。
人工智能正逐步从演示阶段过渡到现实世界的应用中。
要不了几年，人工智能将能以与人类一样的方式对话、推理，甚至采取行动。它们的感知系统将和我们的一样敏锐。这并不等同于它们达到了超级智能水平，但它们确实会成为异常强大的系统。这意味着人工智能将紧密地融入我们的社会结构，成为其不可分割的一部分。
人工智能真的不再是“新兴”的了。它存在于你每天使用的产品、服务和设备中。在生活的各个领域，大量应用程序正依赖于 10 年前还不可能实现的技术。这些技术有助于在如今治疗成本不断攀升的背景下，发现治疗某些棘手疾病的新药。
深度学习可以检测水管裂缝，管理交通流量，模拟聚变反应以开发新的清洁能源，优化航线，以及辅助设计更可持续、功能更丰富的建筑材料。深度学习技术也被用来驾驶汽车、卡车和拖拉机，有可能创造出更安全、更高效的交通基础设施。在电力和水资源系统中，它被用来有效管理稀缺资源，缓解日益增大的资源压力。
人工智能系统能够管理零售仓库、提供邮件写作建议、推荐歌曲、检测欺诈行为、撰写故事、诊断罕见疾病，甚至模拟气候变化的影响。它们出现在商店、学校、医院、办公室、法庭和家庭中。如今，你每天都会和人工智能互动很多次；未来，这种互动将更加频繁。几乎在任何方面，人工智能都将使人类体验变得更加高效、快速、实用和顺畅。
人工智能已经在我们身边了，但这仅仅是个开始。
点击图片即可购买▼
21世纪人类须面对的重大元问题
在人工智能之外，一场更为广泛的技术革命已然兴起。在这场革命中，人工智能正推动新兴的、强大的基因技术和机器人技术突飞猛进。
在这个错综复杂、多种技术相互交织的局面下，一个领域的进步会加速其他领域的发展，而这种相互强化的局面已经超出了任何人的直接掌控。
显然，如果任何人能够成功地复制人类智慧，那就不仅仅意味着一个有利可图的商机，更预示着人类历史的一次重大变革。它将开启一个新的纪元，带来前所未有的机遇，同时也伴随着前所未有的风险。
这些年来，随着技术的不断进步，我的担忧也与日俱增。如果这股技术浪潮实际上是一场无法阻挡的海啸，那么我们该怎么办？
2010 年时，几乎无人认真探讨人工智能。如今，这个曾被视为仅属于少数研究人员和企业家的研究任务，已经演变为一个吸引全球广泛参与的宏大领域。人工智能无处不在。无论是在新闻报道中，还是在智能手机中，甚至在股票交易和网站建设的过程中，我们都能见到它的身影。
这些新兴技术一旦成熟，将会迅速普及，价格将变得更便宜、获取将变得更便捷，其将广泛渗入社会的各个领域。它们将带来卓越的医学进步和清洁能源的突破，不仅能催生新的商业机会，还将在几乎所有我们可以想象的领域中促进产业多样化和生活质量的提升。
然而，除了带来众多利益，人工智能、合成生物学以及其他尖端技术也将引发令人忧虑的尾部风险。这些风险可能对民族国家的生存安全构成威胁，其影响之深远，足以动摇甚至颠覆现有的地缘政治格局。
设想一下，由人工智能助力的网络攻击、可能引发国家毁灭的自动化战争、人为制造的流行病，以及一个由看似强大但充满未知力量的技术所主导的世界，这些极端情况在技术的推动下都有可能成为现实。
尽管每种情况的发生概率都不大，但其潜在后果都是灾难性的。因此，即便这些后果出现的可能性较小，我们也必须保持高度警惕。
面对这些潜在的灾难性风险，一些国家可能会采取高度技术化的威权主义手段来应对，以减缓这些新力量的扩散。这很可能导致对个人隐私的严密监控和大规模侵犯。
技术的严格控制可能会催生一个反乌托邦式的全球监控体系，在这个体系下，一切事物和个体都将受到无间断的监视。人们对预防最极端的潜在后果的渴望为这个监控体系提供了合理化的借口。
同样可能出现的是卢德主义式抵抗。一系列针对新技术的抗议、抵制和要求暂停的声音可能出现。然而，放弃新技术的研发并全面暂停其应用，这可能吗？答案似乎是否定的。
考虑到新技术所带来的巨大地缘战略和商业价值，我们很难想象有谁能轻易说服国家或企业单方面放弃这些技术所带来的变革力量。此外，试图阻止新技术的发展本身就是一种危险。历史上，技术停滞的社会往往不稳定，容易崩溃。这样的社会最终会丧失解决问题和实现进步的能力。
从当前的视角来看，无论是追求还是避免新技术都存在着巨大的风险。随着技术变得更加便宜、强大，普及度更高，风险也在逐渐累积。在这些风险中寻找一条安全的“狭窄小道”，以避免陷入技术专制主义的反乌托邦或陷入技术开放可能带来的灾难，变得越来越困难。
然而，放任自流也非明智之举。尽管我们对技术风险深感担忧，但我们前所未有地需要即将到来的技术浪潮所带来的巨大好处。这正是我们面临的核心困境：新一代的强大技术迟早可能将人类引向灾难性或反乌托邦式的局面。我坚信这是21 世纪人类必须面对的一个重大元问题。
