文丨寄语
AI 普及带来技术红利，也带来了风险挑战，AI 安全治理正面临挑战。
今日，一项可能彻底颠覆开源大模型生态的美国法案 SB 1047 终于迎来了最终“审判”，加州州长 Gavin Newsom 宣布：否决加州AI限制法案。
这场持续了大半年的 AI“安全保卫战”终于画上了句号，OpenAI、谷歌、Meta纷纷逃过大劫。
美国AI界与加州政府吵起来了对于全世界开发者们来说，SB-1047法案取消，意味着Meta、谷歌等大厂的开源模型，再次继续可用。
这个决定可谓是众望所归。
SB 1047 全称是“Safe and Secure Innovation for Frontier Artificial Intelligence Act”《前沿人工智能模型安全创新法案》，旨在为高风险的 AI 模型建立明确的安全标准，以防止其被滥用或引发灾难性后果。
法案链接：https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047
该法案旨在从模型层面对人工智能进行监管，适用于在特定计算和成本阈值之上训练的模型。模型覆盖范围如下：
1、使用超过 10^26 次整数或浮点运算的计算能力进行训练的人工智能模型，其成本超过一亿美元（100,000,000 美元）
2、利用等于或大于 10^25 次整数或浮点运算三倍的计算能力，对范围内的模型进行微调而创建的人工智能模型
这一范围基本覆盖了现在市面上所有主流的大型模型。
全球50家顶尖GenAI企业，有32家便扎根在加州，如果法案通过，这些模型都将被定义为存在“潜在危险”或需要额外监督。
而对一些初创企业来说，这种打击甚至会是毁灭性的。
如今，全加州的AI公司们终于松了一口气。
所以，该法案于今年 2 月份在参议院刚被提出之时，就直接引来学界和业界的巨大反对声浪。
很多科学家认为，法案的条款过于不合理，将对科技创新造成毁灭性的影响。
更多批评者认为，这个法案是杞人忧天，对真正的风险视而不见。对当今AI的安全性也没有帮助，更会阻碍AI的创新。
李飞飞、吴恩达等都持反对态度。
李飞飞发表在《财富》（Fortune）网站上的文章
前段时间，李飞飞曾亲自撰文，阐述了法案可能带来的诸多不利影响。
李飞飞表示，加州的 SB-1047 将产生重大而意想不到的后果。如果通过成为法律，SB-1047 将损害正在萌芽的人工智能生态系统，将不必要地惩罚开发人员，扼杀开源社区，并阻碍人工智能学术研究，同时无法解决其旨在解决的真正问题。
此前，吴恩达也多次就此事发声。
他认为，监管机构应该监管应用而不是技术。如果我们通过这样的法律，可能会阻止人们制造炸弹，但我们也会失去搅拌机、电动汽车和透析机（等造福人类的技术）。相反，如果我们关注特定的应用，就可以更合理地评估风险并判断如何确保它们的安全，甚至禁止某些类型的应用。
此外，由加州大学 7 个校区的师生以及来自其他 20 多个机构的研究人员组成的团体，从研究者的角度出发，陈述该法案对加州人工智能研究和教育目标的损害。
他们指出SB-1047 法案会给开源模型的发布带来“寒蝉效应”会损害 AI 研究，法案对开源模型的保护不足，以及法案中人工智能风险预测与“能力”评估存在不科学性等不合理性。
也有很多人支持该法案，比如马斯克、Hinton、Bengio。在法案被提交给加州州长之前，双方展开了多次激烈论战。
好在，大家的努力都没有白费，一切已尘埃落定。
有人欢喜有人忧 —— 法案的提出者、加州参议员 Scott Wiener 表示对结果非常失望。他在一个帖子中写道，这次否决“对所有相信将对大公司实施监督的人来说都是一个挫折，这些公司正在做出影响公共安全和福利以及『地球的未来』的关键决策。”
强烈支持法案的 Bengio 和 Hinton，则对加州AI限制法案的否决保持沉默。
需要指出的是，否决 SB 1047 并不意味着加州对 AI 安全问题置之不理。
Newsom 在声明中还宣布，李飞飞等人将协助领导加州制定负责任的生成式人工智能部署防护措施。
安全，仍是AI日程密集的AI 安全举措，已被加州提上日程。
加州办公室新闻稿中介绍，过去一个月里，Newsom 签署了18个GenAI法案，却唯独否决了SB-1047。
这些法案涉及面非常广，包括打击露骨的 Deepfake 内容，要求对 AI 生成的内容添加水印，保护表演者的数字肖像、已故人物的声音或肖像版权、消费者隐私，探讨人工智能纳入教学的影响等多个方面。
法案列表链接：https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/
参考链接：https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/
同时，安全已成为各国人工智能治理的核心关切，全球针对人工智能安全已有很多声明和请愿，人工智能治理已经成为一个不容忽视又实时更新的问题，未来也许将有超出现有认知的挑战。
好在，道远路长，行则将至。
AI 虽是把双刃剑，但技术始终在向善发展。
