科技巨头联手组建安全人工智能联盟,共筑AI安全防线

评科技的阿刚 2024-07-20 02:00:24

在人工智能技术飞速发展的今天,其安全问题也日益凸显。为了应对这一挑战,谷歌、微软、OpenAI、亚马逊、英伟达、英特尔等14家全球领先的科技公司联合组建了安全人工智能联盟(CoSAI)。这个联盟旨在通过共享开源方法、框架和工具,解决人工智能安全的碎片化问题,为AI的健康发展提供有力保障。

CoSAI的成立,标志着AI安全领域的一个重要里程碑。它将为所有AI从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具,帮助他们更好地应对AI系统中的典型和独有风险。同时,CoSAI还将致力于降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险,为AI的应用提供更加安全的环境。

但是,CoSAI的组建也面临着一些挑战。在信息共享和交流过程中,如何确保敏感信息不被泄露是一个关键问题。毕竟,某些核心技术或商业机密可能在不经意间被透露,给公司带来不必要的损失。此外,不同公司的人工智能应用场景和数据特点各异,要达成统一的解决方案并非易事。这需要CoSAI成员之间进行深入的合作和交流,共同探索适合不同场景的AI安全解决方案。

事实上,组建AI安全联盟的紧迫性已经不言而喻。近年来,人工智能系统的安全问题频发,给社会带来了不小的困扰。比如,一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元的市值;世界卫生组织使用的聊天机器人提供了过时的药品审核信息;美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然均由ChatGPT凭空捏造。这些事件都充分说明了AI安全问题的严重性和复杂性。

除了国际上的努力,国内也在积极应对AI安全的挑战。2023年9月7日,世界权威国际产业组织“云安全联盟”(CSA)大中华区宣布成立“AI 安全工作组”。该工作组由中国电信、蚂蚁集团、华为、百度、字节跳动等30余家机构组成,致力于解决AI技术快速发展所带来的安全难题。其主要职责包括研究和编制与AI安全相关的技术安全威胁和风险、AI数据安全与隐私保护等方面的材料,并围绕以AI安全为核心的各种技术威胁、风险、防护等问题展开研究工作。

而在2024年4月27日,清华大学、北京大学等多所高校及研究机构,联合百度、腾讯等科技企业,共同发起成立了中关村人工智能产业联盟。这一联盟的成立,将进一步推动国内AI安全领域的研究和发展,为应对全球性的人工智能安全挑战贡献中国智慧。

面对人工智能安全的全球性挑战,我们需要更加紧密的合作与交流。组建安全人工智能联盟只是第一步,我们还需要与国际上的其他机构进行深入的合作,共同研究和探索AI安全的新技术、新方法。只有这样,我们才能更好地应对AI安全带来的挑战,为人类的未来发展提供更加安全、可靠的技术保障。

1 阅读:11

评科技的阿刚

简介:感谢大家的关注