以色列的人工智能系统实战:应用与问题

UC好物甄选 2024-09-12 09:03:57

根据公开报道,以色列目前在加沙地带的作战行动中大规模使用了多款人工智能系统,包括“薰衣草”(Lavender)、“福音”(The Gospel/Habsora)和“爸爸在哪里”(Where's Daddy?)。这三个人工智能系统被应用于以色列的军事行动中,并大幅度提高了以色列的目标搜索能力,但令人遗憾的是,这些人工智能系统也由于以色列对相关控制机制有意无意地忽视而增加了对巴勒斯坦平民的附带杀伤。

“薰衣草”系统

“薰衣草”系统旨在识别涉嫌参加哈马斯和巴勒斯坦伊斯兰圣战组织(PIJ)的个人,甚至针对那些级别较低的人进行潜在的空中轰炸。该系统是由以色列国防军的精锐情报部门“8200部队”(Unit 8200)开发的。

以色列8200部队

在以往的战争中,为了授权暗杀单个人类目标,一名军官必须经历复杂而漫长的“入罪”过程:交叉核对证据,证明该人确实是哈马斯军事部门的高级成员,发现其住所和联系方式,最终实时获取其居家情况。当目标清单上只有几十名高级成员时,情报人员可以单独处理涉及指控和定位他们的工作。但一旦要涉及哈马斯的低级人员,涉及人员规模的扩大导致情报部门人力永远跟不上需求。最终,一套由人工智能组成的系统就可以发挥作用,以满足海量数据的分析处理能力。

根据《+972》杂志报道,在特拉维夫大学2023年人工智能周上,8200部队秘密数据科学和人工智能中心指挥官“Yoav上校”曾在演讲中谈到了以色列军队使用的一种新型、先进的目标系统,该系统可以根据“危险人物”与该机器所接受训练的现有已知武装分子名单的相似程度来检测识别“危险人物”。“Yoav”在讲座中提到,以色列在2021年5月对加沙的“城墙守护”(Operation Guardian of the Walls)军事行动中首次使用了“薰衣草”系统:“使用该系统,我们成功地识别了哈马斯导弹班的指挥官”。

不过这类系统的数据采集启动时间可能更早,西班牙《国家报》就认为“至少从2019年起,带有自动面部识别系统的摄像头就已经成为他们(巴勒斯坦人)日常生活的一部分。”采集的信息包括手机的数字足迹、位置以及社交媒体互动,这些信息都会被处理和存储。《华盛顿邮报》则在之前报道过一个名为“蓝狼”的项目,该项目旨在记录约旦河西岸每个居民的面孔,包括儿童和老人,这些人及其涉嫌危险性的信息都被添加到数据库中。

基于这些早期的数据采集,“薰衣草”系统通过大规模监视系统分析了加沙地带230万居民中大部分人的信息,其中包括视觉信息、蜂窝信息、社交媒体连接、战场信息、电话联系人、照片在内的多种信息,然后对每个人活跃于哈马斯或伊斯兰正义联盟军事部门的可能性进行评估和排名。据消息人士透露,该系统对加沙几乎每个人都进行了从1到100的评分,以表示他们是武装分子的可能性有多大。“薰衣草”系统学会识别已知哈马斯和巴勒斯坦伊斯兰圣战组织成员的特征,他们的信息作为训练数据输入机器,然后在普通人群中定位这些相同的特征。被发现具有多种不同犯罪特征的个人将达到很高的评级,从而自动成为潜在的暗杀目标。

典型的以色列与巴勒斯坦之间检查站

“福音”系统

在一些报道中,“福音”系统的目标被认为是武装分子所使用的建筑物和设施,但实际功能应该不止于此。这一系统同样为8200部队开发,最早被公开是在2020年,当时这一系统获得了以色列参谋长创新奖中“动力之家”(בית הפעלת כוח)奖项第一名。

耶路撒冷希伯来大学讲师、在之前的以色列军事行动中负责目标定位工作的塔尔·米姆兰(Tal Mimran)表示,“福音”实际上是以色列情报部门使用的几个人工智能程序之一。其他人工智能系统汇总大量情报数据并对其进行分类,最终的处理情报的系统是“福音”,它向人类分析师提出有针对性的建议。这些目标可以是任何东西,从单个战士到火箭发射器等设备,或哈马斯指挥所等设施。

对于“福音”系统,美国犹太国家安全研究所负责政策的副所长布莱斯·米兹塔尔表示,该系统相关的情报渠道包括手机信息、卫星图像、无人机镜头,甚至地震传感器等。“福音”及其相关的人工智能系统可以“在10-12天内建议大约200个目标,这个速度(相比于人类)至少快了50倍”。而在2021年的实战中,以色列方面宣称“福音”系统一天可以产生100个目标,在11天的冲突中“福音”系统识别了200个冲突相关目标。

为了充分处理形成的目标信息,以色列国防军情报局在2019年成立了目标管理部门(military's target administration division),编制数百人,其依托的核心系统就是“福音”。

以色列投用的其他人工智能程序

“爸爸在哪里”是自动跟踪识别目标的系统。为了实时识别被监视人员进入房屋的时刻,以色列已经开发了各种附加的自动软件,首次公开的其中一款追踪软件就是“爸爸在哪里”。这些程序同时跟踪数千人,识别他们何时在家,并向相关负责军官发送自动警报,然后由官员将房屋标记,进而决定采取轰炸与否。

“化学家”,同样由8200部队研发,其基于之前通过无人机、卫星图像和专用传感器获取的信息情报,进行视觉分析并提供动态和更新的视觉图像系统。分析结果直接向地面的作战管理中心发送,引导对目标进行打击。

此外还有“路线”,为目标搜索者提供在战斗中定位高质量目标的系统。

以军也依托人工智能清理哈马斯的隧道

从已有的信息来看,“薰衣草”系统、“爸爸在哪里”是自动跟踪识别目标系统,“化学家”和“路线”则是针对地道系统研发的情报综合处理系统。“福音”则是最后的人工智能辅助决策系统,但辅助的程度事实上取决于人如何使用。

有消息称,谷歌和以色列正在合作开展多项技术举措,包括“雨云”项目(Nimbus),该项目为以色列军队提供了加强对巴勒斯坦人的监控和非法数据收集的工具,从而扩大了以色列的迫害政策以及其他针对巴勒斯坦人民的罪行。以色列还曾出售“飞马”(Pegasus)间谍软件,“飞马”软件是以色列NSO集团开发的间谍软件,用户可以通过该软件访问受害者的手机。

从这个角度推断,以色列对巴勒斯坦人的手机信息也已经充分监控和掌握,以便对巴勒斯坦人进行深度控制,覆盖的人口应该达到数百万。

在加沙地带的大规模运用

10月7日的“阿克萨洪水”行动后,以色列对加沙地带展开大范围的进攻,以军相关的人工智能软件也被大量运用。在“福音”系统的支持下,在战争的前35天内,以色列袭击了加沙15000个目标,这一数字大大高于此前在人口稠密的沿海地区的军事行动。以军在2014年持续51天的行动也只打击了5000-6000个目标。

在战争爆发大约两周后,情报人员“手动”检查了数百个目标的随机样本的准确性后,批准自动采用“薰衣草”的杀戮名单,该名单以前仅用作辅助工具由AI系统选择。当该样本发现“薰衣草”的结果在识别个人与哈马斯的关系方面的准确度达到90%时,以色列军队授权全面使用该系统。

在冲突的初期阶段,军方严重依赖“薰衣草”,导致该系统将多达37000名巴勒斯坦人及其住所标记为武装分子并进行潜在的空袭。然而,该系统10%的错误率导致了与激进组织没有联系的个人被错误识别。根据《+972》杂志报道,以色列情报官员在接受采访时表示,“(理论上)只有当(哈马斯)人员在军事建筑中或从事军事活动时,我们才对杀死他们感兴趣。”但现实情况则是,“以色列国防军毫不犹豫地轰炸了他们的家,这是第一选择。轰炸一个家庭的住所要容易得多。该系统就是为了在这些情况下寻找它们而构建的。”在针对被“薰衣草”标志的所谓初级武装分子时,陆军更倾向于仅使用非制导炸弹,以降低成本,但也会摧毁整个建筑物,造成重大人员伤亡。

在媒体的报道中,针对标记的每一名哈马斯低级成员,以色列方面允许附带杀害最多15或20名平民。如果目标是营级或旅级指挥官级别的哈马斯高级官员,军方曾多次授权在暗杀一名指挥官时附带杀伤了100多名平民。当然,在实践中我们可以认为以色列方面并不存在这种严格的范围限定,因为基本不存在相关的纠错机制。

以色列对加沙地带的狂轰滥炸

10月7日后六周,以色列大量使用人工智能软件带来的主要特征之一就是整个巴勒斯坦家庭在自己的房屋内被消灭。根据联合国的统计数据,有超过50%的伤亡人数来自较小的家庭群体。

以色列国防军在一份声明中表示,其行动是根据国际法的比例规则进行的。以色列军方还否认“薰衣草”是一个“系统”,而是“一个简单的数据库”,其目的是交叉引用情报来源,以产生有关恐怖组织军事人员的信息。

以色列军事人工智能实战运用及其启示

以军在加沙地带的军事行动很可能是人工智能首次大范围参与的人类冲突,从实践来看,以色列对人工智能的运用在一定程度上提高了以军的目标识别和打击能力,缩短了打击链。这对于常常需要打击大量机动灵活、依托地道的时间敏感目标的以色列军队来说,确实可以带来战斗力的提升。

以色列使用人工智能在分配目标时存在着分配效率问题,一位消息人士在谈到使用人工智能来标记所谓的低级别武装分子时说道:“令我感到非常惊讶的是,我们被要求轰炸一座房屋来杀死一名地面士兵,而这名地面士兵在战斗中的重要性如此之低。”可以看出,以色列运用的人工智能系统在火力分配效率上也有一定的局限,只是在针对加沙地带低武装水平的哈马斯时,这个问题带来的后果不会太严重。但如果是面对正规的对称对手,这样的处理能力还不足以支撑大规模高烈度冲突。

同样的,从实战情况来看,尽管以军毫不意外地对哈马斯造成了大量杀伤,但哈马斯的抵抗行动依然没有完全停止,并且在冲突初期和中期哈马斯仍然可以依托地道体系对以色列目标发动有效攻击,给以军造成了不小的损失。此次以军公开的伤亡已经超过了1967年的“六日战争”,实际伤亡可能更高。人工智能系统的使用对以色列有帮助,但也只能在一定程度上降低其损失。从实战来看,哈马斯庞大的地道系统仍然在很多地方运行,哈马斯也依然在巨大的人员损失情况下进行一定的抵抗。

以色列当前没有有效地对人工智能给出的结果进行控制,也并未看到以军存在针对结果的纠错机制。“当以色列开始依赖这些系统时,他们就会成为机械化过程中的齿轮,并失去以有意义的方式考虑平民伤害风险的能力。”人工智能技术本身的“不可解释性”可能会在长时间内让人形成认知的懒惰,并塑造新的习惯。

但更为重要的依然是以色列人的实际政治意图。这场战争从原因(不公正的政治经济秩序)和手段(几乎无差别的攻击)上都属于典型的非正义战争,以色列在行动上完全不在意巴勒斯坦人的生命,在以色列的军事行动中,人工智能事实上扮演着以色列推卸决策伦理责任的工具。其导出的结果与军事上不顾及附带伤害的野蛮叠加,最终与不加筛选的无差别攻击并没有太大区别,杀戮效率反而更高了。以色列的做法最终证明了战争仍然是人类的冲突。

0 阅读:1