美国情报机构正在评估人工智能模型的可信度!

素年妏史 2024-09-04 11:49:17

美国国防部副部长凯瑟琳·希克斯与美国国家地理空间情报局(NGA)局长美国海军中将弗兰克·惠特沃思在弗吉尼亚州斯普林菲尔德的国家地理空间情报局园区交谈

美国国家地理空间情报局正在创建一个标准化框架,用于评估用于分析卫星图像和其他地理空间数据的计算机视觉模型的准确性。美国国家地理空间情报局(NGA)正在制定在关键领域使用人工智能(AI)技术的指导方针和标准,例如使用卫星图像识别潜在目标。

NGA总部位于弗吉尼亚州斯普林菲尔德,负责收集、分析和分发来自卫星和航空图像的地理空间情报,以支持国家安全、军事行动和灾难响应工作。美国国家地理空间情报局局长弗兰克·惠特沃斯(Frank Whitworth)海军中将上周宣布,该机构正在启动一项试点计划,旨在确保其分析师使用的人工智能模型的可靠性和可信度。该计划旨在制定准则,评估用于分析卫星图像和其他地理空间数据的计算机视觉模型的性能和准确性。惠特沃斯在与记者会面时表示:“认证将提供标准化的评估框架,实施风险管理,促进负责任的人工智能文化,增强人工智能的可信度,加速人工智能的采用和互操作性,并在确定改进领域的同时认可高质量的人工智能。”

此举出台之际,NGA和其他情报机构越来越依赖人工智能驱动的计算机视觉来快速处理每天收集的大量卫星图像和地理空间数据。通过开发评估这些人工智能模型的一致方法,NGA旨在增强对人工智能产生的见解的信心,这些见解为军事行动和国家安全决策提供信息。目标定位是“我们做的最难的事情之一”惠特沃斯强调,在生命受到威胁的情况下,情报收集必须准确。“我们试图明确区分战斗人员和非战斗人员、敌人和非敌人。”他说,“这很难,我告诉你,根据我35多年的经验,我们做的最困难的事情之一就是定位。”该试点项目仍处于早期阶段,许多细节尚未确定。总的来说,惠特沃斯表示,这符合国防部关于人工智能道德使用的指导方针,并回应了白宫最近关于该主题的行政命令。(相关文件已经上载到本号的知识星球)该机构还为所有编码员和地理空间情报数据用户建立了一个负责任的人工智能培训计划,目标是在整个情报界创造一种负责任的人工智能使用文化。新的人工智能项目是在地理空间数据的数量和复杂性不断增长的时候出现的。

人工智能通过自动检测和分类图像中的物体来帮助管理这种数据洪流,使人类分析师能够专注于关键任务和解释。惠特沃斯强调了该机构在当前全球冲突中的作用,指出NGA为以色列在加沙打击哈马斯领导的巴勒斯坦激进组织的战争提供地理空间情报支持,并为乌克兰抵御俄罗斯的侵略提供情报支持。“我们的责任是确保以色列和乌克兰能够自卫,”他说,并强调了在这些敏感局势中准确可靠的情报的重要性。惠特沃斯警告说:“我们不要忘记,有一些非常聪明的对手会混淆一些训练数据和一些模型解决方案。”他强调需要对人工智能系统进行严格评估。

0 阅读:15

素年妏史

简介:用最视角,品读历史真相