拜登总统周四发布了一份关于人工智能的新国家安全备忘录，对国防部和情报界有直接影响。

拜登总统10月24日签署的一份新的国家安全备忘录（NSM - National Security Memorandum，全文已上载到本号的知识星球）旨在加快五角大楼和情报界对新兴人工智能能力的采用，同时解决与该技术相关的安全问题。周四发布的这份文件包括加速美国政府使用人工智能来推进国家安全任务的条款，包括利用私营部门快速发展的创新。在该指南发布期间，白宫国家安全顾问杰克·沙利文（Jake Sullivan）在国防大学（National Defense University）对军人和其他人发表讲话时说，在可应用于这类任务的“潜在”能力方面，美国目前处于领先地位，但如果不加快部署新工具，美国可能会浪费其领先地位。“我们在过去几年里得出的核心观点是，我们在潜在能力方面处于领先地位，美国在人工智能方面拥有世界上最好的潜在能力。我们如何将其转化为战场、后勤和情报企业的实际应用？”沙利文说。“如果你想想……国家安全备忘录，它实际上试图做的是制定一个路线图，上面写着：以下是国家安全企业、联合部队、情报界应如何与私营部门合作，以及如何以透明、有效、合法的方式开展工作，以确保我们将私营部门开发的技术、能力和解决方案应用于部队、应用于我们的情报界，并在整个国家安全企业中共享。因此，第二个支柱的整个设计是关于回答……我们如何采用（像IBM这样的公司）开发的解决方案，将其应用于战争、物流或情报分析，并将其整合，然后确保它在一致的基础上全面可用，而不是建立多个不同的、竞争的或不一致的解决方案？”他说。沙利文补充说：“在NSM通过之前，一些工作是由不同服务部门的企业家以拼凑的方式完成的，但这是第一次，我们现在有了一个框架，可以说：这是向行业发出的需求信号，我们想要你提供的东西，我们希望迅速、有效、全面地整合它，并以减少重叠、差距和冲突的方式。”五角大楼正在寻求新的人工智能工具，希望在其庞大的企业中部署新技术，从后台到战场。沙利文指出，人工智能应用将改变美国军队训练和战斗的方式，但政府官员很难准确预测它们将以何种形式出现，以及它们将以多快的速度出现。“底线是：机会已经唾手可得，而且很快还会有更多。因此，我们必须迅速有效地抓住机遇，否则我们的竞争对手就会抢先一步。”沙利文补充说，需要进行重大的技术、组织和政策变革，以促进与推动技术发展的创新者的合作。各情报机构被指示寻找促进与非传统供应商（如领先的人工智能公司和云计算提供商）合作的方法。“在实践中，这意味着在最先进的系统开发出来后，迅速将其用于我们的国家安全企业，就像许多私营企业正在做的那样。我们需要快速采用这些系统，正如我们每隔几个月看到的那样，这些系统正在迭代和进步。”新的备忘录强调，需要在国家安全机构之间建立更加协调和有效的采买和采购系统，包括加强评估、定义和阐明人工智能相关需求的能力，以及为该领域缺乏与山姆大叔合作经验的公司提供更大的可及性。该指南指示国防部和国家情报总监办公室与白宫管理和预算办公室及其他机构合作，在30天内成立一个工作组，解决涉及国防部和情报界采购人工智能技术的问题，并为采购这些技术以用于国家安全系统提出新的建议。在备忘录发布后的210天内，工作组的任务是向联邦采购管理委员会提供书面建议，以修改现有法规。备忘录指出：“国防部和国家情报总监办公室应寻求与不同的美国私营部门利益相关者——包括人工智能技术和国防公司以及美国投资界的成员——进行持续接触，以确定并更好地了解将有利于或影响美国国家安全使命的新兴能力。”

然而，官员们也指出，在国家安全任务中采用人工智能工具存在许多风险。五角大楼此前制定了一项实施“负责任的人工智能”的计划，并更新了其自主武器政策，这两项政策都旨在为确保人工智能系统在开发和部署后不会脱轨提供保障。这份新的白宫备忘录概述了与在国家安全系统中部署人工智能技术有关的一些担忧，包括对人身安全的风险、隐私及歧视和偏见、不恰当的使用、缺乏透明度和问责制、数据泄露、性能不佳、以及蓄意操纵和误用。操作员可能无法完全理解人工智能工具的功能和局限性，包括在作战场景中。这可能会阻碍它们进行适当程度的人类判断的能力。此外，备忘录指出，培训计划和指导的不足可能导致过度依赖这些类型的系统，包括所谓的“自动化偏见”。还有人担心，在没有适当保障的情况下，美国国家安全机构使用这项技术，最终可能会使对手受益。备忘录指出：“人工智能系统可能会无意中或通过恶意行为者的蓄意操纵，泄露其训练数据的某些方面，而数据泄露可能是由在机密或受控信息上训练的人工智能系统在不允许此类信息的网络上使用时造成的。”此外，“外国国家竞争对手和恶意行为者可能会故意破坏人工智能系统的准确性和有效性，或试图从此类系统中提取敏感信息。”

在备忘录发布后的180天内，国防部（DOD）、国家情报总监办公室（ODNI）和其他相关机构的负责人将负责更新其相应部分关于国家安全系统人工智能治理和风险管理的指导，随后将每年对其进行审查，并根据需要进行更新。“国家安全中推进人工智能治理和风险管理框架”（全文已经上载到本号的知识星球）将由国家安全委员会附属委员会批准，并“定期”审查，以确定是否需要进行修改以应对备忘录中确定的风险。