加州 18 项新 AI 法规（且还在增加）禁止的行为如下：

9 月，加州州长加文·纽瑟姆考虑了 38 项与人工智能相关的法案，包括备受争议的SB 1047法案，该州立法机构已将其送交州长进行最终审批。周日，他否决了 SB 1047法案，标志着加州这项试图防止人工智能灾难的备受争议的人工智能法案走到了尽头。

但他本月签署了十多项其他人工智能法案。这些法案试图解决人工智能领域最紧迫的问题：从人工智能风险，到人工智能图像生成器制作的深度伪造裸照，再到好莱坞工作室为已故演员制作人工智能克隆体。

加州州长纽森办公室在一份新闻稿中表示：“加州是全球大多数领先人工智能公司的所在地，该州正在努力利用这些变革性技术来解决紧迫的挑战，同时研究它们带来的风险。”

到目前为止，纽森州长已经签署了 18 项人工智能法案，其中一些是美国迄今为止影响最深远的生成式人工智能法案。以下是这些法案的具体内容。

人工智能风险

周日，州长纽森签署了 SB 896法案，要求加州紧急服务办公室对生成式人工智能带来的潜在威胁进行风险分析。CalOES 将与 OpenAI 和 Anthropic 等前沿模型公司合作，分析人工智能对关键州基础设施的潜在威胁，以及可能导致大规模伤亡事件的威胁。

训练数据

纽森本月签署的另一项法律要求生成式人工智能提供商在其网站上发布的文档中披露用于训练其人工智能系统的数据。AB 2013将于 2026 年生效，并要求人工智能提供商发布：其数据集的来源、数据使用方式的描述、数据集中的数据点数量、是否包含受版权保护或许可的数据、数据收集的时间段等标准。

隐私和人工智能系统

纽森还于周日签署了AB 1008，该法案明确了加州现有的隐私法也适用于生成式人工智能系统。这意味着，如果像 ChatGPT 这样的人工智能系统泄露了某人的个人信息（姓名、地址、生物特征数据），加州现有的隐私法将限制企业如何使用这些数据并从中获利。

教育

纽森本月签署了AB 2876，要求加州教育委员会在数学、科学和历史课程框架和教学材料中考虑“人工智能素养”。这意味着加州的学校可能会开始向学生教授人工智能工作原理的基础知识，以及使用该技术的局限性、影响和道德考虑。

另一项新法律SB 1288要求加州教育主管成立工作组，探索如何在公立学校教育中使用人工智能。

定义人工智能

本月，纽森签署了一项法案，在加州法律中为人工智能制定了统一定义。AB 2885指出，人工智能被定义为“一种工程化或基于机器的系统，其自主性水平各不相同，并且可以根据明确或隐含的目标，从其收到的输入中推断出如何生成可以影响物理或虚拟环境的输出。”

卫生保健

9 月份签署的另一项法案是AB 3030，该法案要求医疗保健提供者披露他们何时使用生成式人工智能与患者沟通，特别是当这些信息包含患者的临床信息时。

与此同时，纽森最近签署了SB 1120法案，该法案对医疗服务提供商和医疗保险公司如何实现服务自动化进行了限制。该法案确保执业医生监督这些环境中人工智能工具的使用。

人工智能自动拨号

上周五，纽森州长签署了一项法案，要求自动拨号电话披露是否使用了人工智能生成的声音。AB 2905旨在防止今年早些时候新罕布什尔州许多选民感到困惑的深度伪造自动拨号电话再次出现。

深度伪造色情内容

周日，纽森签署了AB 1831法案，扩大了现有儿童色情法的范围，将人工智能系统生成的内容也纳入其中。

上周，纽森签署了两项针对深度伪造裸照制作和传播的法律。SB 926将该行为定为犯罪，规定使用与他人相似的人工智能生成的裸照勒索他人属于非法行为。

SB 981法案也于周四正式生效，该法案要求社交媒体平台建立用户举报渠道，举报内容与自己相似的深度伪造裸照。平台调查期间，相关内容必须暂时屏蔽，一经确认，则必须永久删除。

水印

同样在周四，纽森签署了一项法案，帮助公众识别人工智能生成的内容。SB 942要求广泛使用的生成人工智能系统在其内容的来源数据中披露它们是由人工智能生成的。例如，现在所有由 OpenAI 的 Dall-E 创建的图像都需要在其元数据中添加一个小标签，说明它们是人工智能生成的。

许多人工智能公司已经这样做了，并且有几种免费工具可以帮助人们读取这些来源数据并检测人工智能生成的内容。

选举深度伪造

本周早些时候，加州州长签署了三项法律，打击可能影响选举的人工智能深度伪造行为。

加州的一项新法律AB 2655要求大型在线平台（如 Facebook 和 X）删除或标记与选举相关的人工智能深度伪造内容，并创建举报此类内容的渠道。如果大型在线平台不遵守该法案，候选人和当选官员可以寻求禁令救济。

另一项法律AB 2839针对发布或转发可能在即将到来的选举中欺骗选民的人工智能深度伪造视频的社交媒体用户。该法律于周二立即生效，纽森暗示埃隆·马斯克可能面临违反该法律的风险。

根据加州新出台的法律AB 2355，人工智能生成的政治广告现在需要完全披露。这意味着，今后特朗普可能无法再在 Truth Social 上发布泰勒·斯威夫特 (Taylor Swift) 为其背书的人工智能深度伪造视频（她支持卡玛拉·哈里斯 (Kamala Harris)）。美国联邦通信委员会 (FCC) 已在国家层面提出了类似的披露要求，并已将使用人工智能生成的声音进行自动拨号定为非法。

演员和人工智能

纽森本月早些时候签署的两项法律为加州媒体行业制定了新标准，而美国最大的电影和广播演员工会 SAG-AFTRA 也正在推动这一法案的通过。AB 2602要求制片厂在制作演员声音或肖像的人工智能复制品之前，必须获得演员的许可。

同时，AB 1836禁止工作室在未经其遗产同意的情况下制作已故表演者的数字复制品（例如，最近的“异形”和“星球大战”电影以及其他电影中使用了合法批准的复制品）。

SB 1047 被否决

纽森州长在 9 月底之前仍有几项与 AI 相关的法案需要决定。然而，SB 1047 并不是其中之一——该法案已于周日被否决。

在一封解释其决定的信中，纽瑟姆表示，SB 1047 法案过于狭隘地关注大型人工智能系统，这可能会“给公众一种虚假的安全感”。加州州长指出，小型人工智能模型可能与 SB 1047 法案针对的模型一样危险，并表示需要采取更灵活的监管方式。

本月早些时候，在 2024 年 Dreamforce 大会期间与 Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 的一次交谈中，纽瑟姆可能对 SB 1047 表示了赞赏，并谈到了他对如何更广泛地监管人工智能行业的看法。

“有一项法案在公众讨论和意识方面有点过头了；那就是 SB 1047，”纽瑟姆本月在台上说道。“人工智能的可证明风险是什么，假设风险是什么？我无法解决所有问题。我们能解决什么问题？所以这就是我们在这方面采取的方法。”