在欧盟国家，《人工智能法案》的第一项要求已经生效，这是一份规范人工智能 （AI） 使用的大规模文件。这项法律于 2024 年 3 月获得欧洲议会批准，禁止对社会构成“不可接受风险”的人工智能系统。该法律将技术分为四个风险级别，从最小（例如垃圾邮件过滤器）到不可接受（现在完全禁止）。
图片来源：Alexandre Lallemand / Unsplash
据 TechCrunch 称，该禁令包括用于社会评分（根据社交特征评估一个人）、行为纵、根据外表预测犯罪、分析人们在工作或学校的情绪以及在公共场所实时收集生物识别数据的人工智能系统。违反这些规则的公司将面临最高 3500 万欧元或年营业额 7% 的罚款，以较高者为准。然而，正如 Slaughter and May 律师事务所的技术主管 Rob Sumroy 所指出的那样，罚款不会立即开始适用：“组织应该从 2 月 2 日开始完全准备好遵守规则，但主要措施要到夏季结束才会生效。
值得注意的是，一些公司甚至在法律生效之前就开始为新要求做准备。例如，2024 年 9 月，包括亚马逊、谷歌和 OpenAI 在内的 100 多个组织签署了一项自愿协议，立即适用《人工智能法案》的原则。该文件要求他们提前考虑法律规定并评估其技术的风险。然而，Meta✴ 和 Apple 等主要参与者拒绝参与该协议。然而，正如 Samroy 所指出的，这并不能免除公司遵守法律要求。
法律还规定了一些禁令的例外情况。例如，如果得到有关当局的授权，执法机构可以在公共场所使用生物识别系统来搜索失踪人员或防止对生命的威胁。如果出于医疗或治疗目的，也可以在学校或工作场所使用分析情绪的系统。
与此同时，专家警告说，新法律与 GDPR、NIS2 和 DORA 等现有法规的“重叠”可能会带来困难。“AI 监管法律不是孤立地存在于真空中，”Samroy 说。“公司必须考虑不同法律行为之间的相互作用，尤其是在违规和事件的通知方面。”预计到 2025 年 8 月，该法律的所有条款（包括罚款）将全面实施。
