战争进入2.0“秒杀时代”:AI赋能致命自主武器系统会否失控?

凤凰卫视 2024-08-30 17:11:37

比特犬、超级鹰、无人机等人类最尖端的科技正伴随前所未见的杀戮出现在战场上。

随着这些机器人设备走上战场,衍生出人与机器争夺控制权等种种新问题,科技的力量正在让战争形式发生巨变…

美国国防科技公司投资人哈姆雷特·尤瑟夫表示“未来可能人类会万劫不复”。

面对战争的2.0时代,我们真的做好准备了吗?

1

超级士兵

战争装备在过去20年间实现了技术上的飞跃。

集成通信系统、视觉增强系统、增强战力的外骨骼服和无人步枪等先进装备正在研发或已经投入使用。

强·莫里斯

美国特种部队和特种作战司令部研究支援组

前成员

“现代士兵在执行任务时都会配备自己的无人机,无人机将进行空中侦察,并将自己或士兵收集到的信息反馈给中央指挥部。”

外骨骼防护服目前正在非战斗环境下进行测试和使用,操作员或士兵可以用它来举起、运输和装载某些人体自身无法处理的物品。

最近兴起的另一种遥控武器叫做“特殊用途无人步枪”。它拥有经过加密的无线传感器能够在任何能见度下实现精准射击,射程可达1200米。这样的话,任何普通士兵都有可能变成狙击手。

哈姆雷特·尤塞夫

美国国防科技公司投资人

“最近,美国陆军开始测试集成视觉增强系统,除了快速为士兵的视野提供混合现实数据,如三维地形图和战场上的重要信息外,它还能帮助士兵看清烟雾中的东西。”

随着人类集成技术的发展,许多人都认为我们可能在有朝一日拥有半机械化士兵,他们经过人为改造能够成为更强大的战士,并能经受住恶劣环境的考验。

强·莫里斯

美国特种部队和特种作战司令部研究支援组

前成员

“现在出现了一些新项目,比如士兵的全方位训练项目和特种部队内的战术人体优化与修复项目。它可以帮助士兵在战场上完成任务,提高士兵的恢复能力和适应能力。在他们离开战场后,它还可以帮助他们从战斗状态中脱离出来。”

古往今来,每支军队都在设法提高士兵的个人能力,无论是通过使用增强战力的药物,还是仅仅通过发放酒精或烟草作为兴奋剂。

有些国家想要尝试基因编辑或生物强化提高士兵的作战能力,甚至是将他们打造成超级士兵。

在这个过程中,我们要问的是,底线在哪里?

2

武装机器人

事实证明,机器人在战斗中非常有用,可以与控制它们的士兵并肩作战,也可以领先于士兵。

随着技术越来越先进,它们的辅助作用只会越来越大。

哈姆雷特·尤塞夫

美国国防科技公司投资人

“2007年,武装魔爪遥控拆弹系统和特种武器观测侦察探测系统诞生。它们将成为第一批投入战区的机器人。这批机器人配备了M249轻机枪,主要用于监视和维和行动。”

已经问世的模块化先进武装机器人系统的前身是特种武器观测侦察探测系统,它是一种新型半自主式机器人系统,只有在收到编码指令和人工智能的操纵时,才会发起杀伤性行动。

哈姆雷特·尤塞夫

美国国防科技公司投资人

“通用机器人公司生产的比特犬遥控武器站可以探测、追踪以及预测敌军和友军的位置。这家制造商还在开发一种名叫多戈的小型作战机器人。它的重量只有10公斤,可以装在士兵的背包里,还能进入士兵无法进入的地方。它配备了一个通讯系统和一把9毫米格洛克手枪,可以在不暴露操作员的情况下根据需要开火。”

机器人公司还研制了足式机器人、机器狗。

Vision 60机器狗可以在险峻的地形和恶劣的气候条件下,携带重型装备,以每小时10公里的速度奔跑3小时。它可以提供后勤支持,也可以配备远程武器系统。

技术进步为战斗提供了越来越多的解决方案。有的部队虽然规模很小,但是凭借着先进的技术,能够发挥出高度集中的进攻性力量。

丹尼尔·卡泽塔

美国前白宫顾问 化学武器专家

“未来步兵数量会减少吗?很有可能。装甲车乘员会减少吗?大概率会。”

哈姆雷特·尤塞夫

美国国防科技公司投资人

“这样做的坏处是多数的权力落入了少数人手中。因此,为了规范少数人的行为,我们必须确保管理正确且到位。”

但是,我们越利用技术,对它的依赖度就会越高。

那么当技术出现问题时,士兵该如何前进,如何继续与敌人交战?

强·莫里斯

美国特种部队和特种作战司令部研究支援组

前成员

“不知道这究竟是福还是祸,当我们在战场上使用自主式机器人时,我担心人类和自主式设备之间可能存在通信和控制方面的问题。”

军事智能与人工智能的结合,引发了一些伦理方面的问题:机器人应该拥有多少自主权?机器人是否会完全取代人类士兵?

2012年,人权观察将致命性自主武器系统分为三类:人在环中,人在环上和人在环外。

从本质上讲,也就是说当具有致命能力的人工智能系统或自主设备做出杀人的决定时,人类是否拥有最终的决定权?

哈姆雷特·尤塞夫

美国国防科技公司投资人

“虽然目前的大多数系统并不会对人类进行跟踪或瞄准,但有大量报道称,一些大国正在尝试取消人类在杀伤链中的角色。”

这可能已经成为了现实。

一份来自2021年的联合国报告数据显示,一支后勤车队遭到了自主武器系统的追杀和远程攻击。

彼得·罗伯茨

美国前海军指挥官、现代战争学教授

“报告没有具体说明是否有人丧生,但如果存在伤亡,那么就有了第一个死于致命性自主武器系统的人。”

哈姆雷特·尤塞夫

美国国防科技公司投资人

“如果其他国家走上了制造由人工智能驱动的自主武器系统的道路,我们是否会处于明显的劣势?”

乌尔瑞科·弗兰科

美国国防政策专家

“现在的基本情况是我们可能并不想制造那种能够终结一切的强大武器,但如果别的国家造出了这样的终结者,我们也会开始研发武器,因为我们需要终结者来保卫自己。而这正是军备竞赛的升级态势,非常危险,也非常不稳定。”

韩国三星生产的SGRA-1型机枪机器人是一种哨兵机器人,它被设计并部署在韩国与朝鲜之间的非军事区——它的非制冷红外热成像摄像机可以通过语音识别来探测和识别人类。

如果发现了闯入者,该系统可以独立选择是拉响警报并发射橡皮子弹,还是使用更致命的武器。

韩国的另一个武器系统叫做“超级鹰”宙斯盾2型系统,它有一个警报系统能够通过编程自动射击。

在这种情况下,谁又能保证那些保障措施不会失效呢?

哈姆雷特·尤塞夫

美国国防科技公司投资人

“你黑不了枪,也黑不了剑、盾或箭,但你可以黑无人机。”

在取消人工审核这一最后环节之前,人们应该仔细考虑。

有时,当士兵准备对疑似恐怖分子扣动扳机时,人类原始的情感和直觉会让他们犹豫不决,这种直觉往往是正确的。

机器能做到这一点吗?

这是我们在发展武器系统的过程中必须考虑的问题。

另外,如果一个自主系统或人工智能系统执行了一些它没有收到的命令,谁来承担责任?

彼得·罗伯茨

美国前海军指挥官、现代战争学教授

“联合国秘书长安东尼奥·古特雷斯宣布,致命型自主武器系统在政治上是遭人排斥的,在道义上是令人厌恶的,他建议成员国在2026年之前缔结一份具有法律约束力的协议,来禁止此类系统。”

哈姆雷特·尤塞夫

美国国防科技公司投资人

“随着所有的武器系统越来越紧密相连,我们需要一个良好的道德、法律和伦理体系来指导我们创造和使用此类系统。一旦行差踏错,后果就会不堪设想。虽然这听起来像科幻小说,但如果我们稍有不慎,未来可能就会万劫不复。”

归根结底,技术上可行的东西往往能被开发出来,然后在极端情况下投入使用。

而战争,顾名思义,就是一种极端情况。

更多精彩内容请收看凤凰大视野《大杀器——现代战争2.0》,8月26日-30日,每晚八点,凤凰卫视中文台。

来源:凤凰大视野

编辑:yii

今日视频推荐:

0 阅读:19