全球科技公司齐聚一堂，成立了一个新组织——安全人工智能联盟（CoSAI），以提高人工智能技术的安全性和可靠性。该联盟由谷歌、OpenAI、微软、亚马逊和 NVIDIA 等人工智能前沿公司组成，旨在标准化安全措施并共享知识，以解决对快速发展的人工智能技术的担忧。
AI行业巨头联合：CoSAI的宗旨和愿景CoSAI 于 2024 年 7 月 18 日在阿斯彭安全论坛上正式宣布。该联盟的主要目标是提高人工智能系统开发、集成、部署和运营的安全性。具体来说，它侧重于减轻模型盗窃、数据污染、即时注入、大规模利用和推理攻击等风险。
CoSAI 的创始主要赞助商包括 Google、IBM、英特尔、微软、NVIDIA 和 PayPal。亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz 也是创始赞助商。
CoSAI的成立定位是对当前AI安全领域碎片化的回应。开发人员目前面临着不一致的指导方针和标准，这使得评估和减轻人工智能固有的风险成为一项重大挑战。
这项工作的核心是开源方法、标准化框架和工具共享。 CoSAI将在非营利组织 OASIS的领导下运营，由一个项目指导委员会推动和管理整体技术议程，并由一个由学术界和工业界的人工智能专家组成的技术指导委员会负责监督。
在启动时，CoSAI 的活动将重点关注以下三点：
人工智能系统的软件供应链安全：增强配置和来源跟踪以保护人工智能应用程序的安全。让防御者为不断变化的网络安全环境做好准备：解决人工智能和经典系统的投资和集成挑战。人工智能安全治理：开发人工智能安全最佳实践和风险评估框架。CoSAI 指导委员会联合主席 Google 的 David LaBianca 在谈到 CoSAI 的创建时表示：“CoSAI 的创建将使安全集成和部署人工智能所必需的知识和进步民主化。”在 OASIS Open 的支持下，我们期待继续这项工作以及领先公司、专家和学术界之间的合作。”
谷歌网络安全弹性主管希瑟·阿德金斯 (Heather Adkins) 表示：“CoSAI 可以帮助大大小小的组织安全、负责任地集成人工智能，利用其优势，同时降低风险。”
该举措是为了回应对人工智能快速发展的担忧。去年，名人和人工智能研究人员发表了一封公开信，呼吁暂停大规模人工智能系统的开发，但这些呼吁毫无结果。 CoSAI 可以被视为针对此类担忧采取具体行动的尝试。
但该联盟也面临挑战。它们的角色有可能与前沿模型论坛、人工智能伙伴关系等现有组织的角色重叠，其原创性和有效性将受到质疑。此外，虽然行业巨头的集中在资源方面具有优势，但也可能引发对偏见和利益冲突的担忧。
CoSAI的未来发展及其对人工智能安全的具体贡献备受关注。提高人工智能技术的安全性和可靠性将是其广泛应用和融入社会的重要要素。
