珠海航展后中美一致同意:不把核武器交给人工智能,确保人类控制

光电科技君 2024-11-20 11:05:40

这次珠海航展让全球看到无人化、智能化的未来,无论是战争形态还是战争规模都已经发生了实质性变化。其实,作为世界大国,也一直在讨论关于人工智能与武器之间的关系,只不过一直没能达成一致。

最近,美国总统国家安全事务助理杰克·沙利文就表示,中美高层一致同意“在人工智能(AI)不断进步的情况下,保留人类对使用核武器决定的控制权很重要。”

说白了,就是中美都同意管控人工智能的安全和风险,决定不把核武器的控制交给人工智能。这是中美这几年在防务和核平衡方面达成的一致意见。

此前,中方一直倡导“科技向善”,要规范人工智能,确保人工智能始终在人类控制之下,防止出现机器自主杀人。也要防止人工智能只被少数先进的国家掌握。

人工智能的军事应用正在颠覆传统战争形态,以色列利用人工智能算法和远程操控在加沙和黎巴嫩实施精准袭击,造成了大量的破坏和平民伤亡,这其实会让整个人类面临的挑战。

在中美的示范性承诺下,法国和英国也做出了同样的承诺,即人类对核武器拥有完全控制权。势必也会影响到全球关于禁止人工智能技术用于无人机等自主武器以及核武器的控制和部署的行动。

可能有人说,明明诸如“机器狼”、“蜂群无人机”等装备,如果加入人工智能战斗力都不敢想象,为什么关键时候,中美能达成一致呢?

其实道理很简单,就是美国最早在人工智能与武器方面进行了结合,并且还在持续加大投入研发更多的人工智能战场应用模式。美国甚至还想通过技术封锁、芯片管控等方式限制其他国家发展。

但是随着我们也能自主设计和制造先进的人工智能芯片,开发相应的应用产品,并且在一定程度上超过美国,他们才开始坐下来谈论这个问题。美国也开始明白,如果不进行管控,势必引起全球性的人工智能武器竞赛,增加更多的不确定性。

而我们也明白,人工智能向善,才能更好地服务人类。谷歌公司就是比较早为美军及以色列研发人工智能武器的公司,但是因为没有相关的道德底线和伦理标准,一旦失控就会引发难以估计的损失。所以这几年就连谷歌的工程师也反对从事这些项目。

中方一直坚持以卓越的智慧和“人类命运共同体”的理念,呼吁各国共同签署《未来契约》,其实就是以负责任的态度践行国际责任,确保科技服务于人类整体利益,而不是被少数国家控制,变成了霸权主义的维护工具。

《人类简史》《未来简史》《今日简史》的作者尤瓦尔·赫拉利曾经在演讲中表示:人类正面临的生态危机,而人工智能无论好坏都是这场危机的一部分。

在他看来,人工智能可以消化掉整个人类文化,消化掉那些我们几千年来创造出来的所有东西,也包括人类自己。也许这也是所有人最担心的吧。

1 阅读:26

光电科技君

简介:关注科技进步,解析行业发展,深度科普爱好者