加州州长否决备受争议的人工智能安全法案

作者：Tom Mitchelhill，CoinTelegraph；编译：陶朱，金色财经

加州州长加文·纽瑟姆否决了一项备受争议的人工智能 (AI) 法案，认为该法案会阻碍创新，无法保护公众免受技术带来的“真正”威胁。

9 月 30 日，纽瑟姆否决了 SB 1047（即《前沿人工智能模型安全创新法案》），该法案遭到了硅谷的强烈反对。

该法案提议对人工智能模型和其他护栏进行强制性安全测试，科技公司担心这会扼杀创新。

纽瑟姆在 9 月 29 日的一份声明中表示，该法案过于注重监管现有的顶级人工智能公司，而没有保护公众免受新技术带来的“真正”威胁。

“相反，该法案对最基本的功能都采用了严格的标准——只要大型系统部署了它。我不认为这是保护公众免受技术带来的真正威胁的最佳方法。”

SB 1047 由旧金山民主党参议员 Scott Wiener 起草，还要求加州的开发者（包括 ChatGPT 制造商 OpenAI、Meta 和 Google 等大牌）为他们的 AI 模型实施“终止开关”，并发布缓解极端风险的计划。

如果该法案得以实施，AI 开发者在受到 AI 电网接管等模型的持续威胁的情况下，也有可能被州检察长起诉。

纽森表示，他已要求世界领先的 AI 安全专家帮助加州“制定可行的护栏”，重点是创建“基于科学的轨迹分析”。他补充说，他已下令州政府机构扩大对 AI 发展可能引发的灾难性事件风险的评估。

尽管纽森否决了 SB 1047，但他表示必须为人工智能制定足够的安全协议，并补充说监管机构不能“等到重大灾难发生后才采取行动保护公众”。

纽森补充说，他的政府在过去 30 天内签署了 18 多项有关人工智能监管的法案。

政客和大型科技公司反对人工智能安全法案

在纽森做出决定之前，该法案在立法者、顾问和大型科技公司中并不受欢迎。

众议院议长南希·佩洛西和 OpenAI 等公司表示，这将严重阻碍人工智能的发展。

Abundance Institute 的人工智能政策负责人 Neil Chilson 警告说，虽然该法案主要针对具有一定成本和规模的模型（成本超过 1 亿美元的模型），但其范围很容易扩大，以打击规模较小的开发商。

但有些人对该法案持开放态度。亿万富翁埃隆·马斯克正在开发自己的人工智能模型“Grok”，他是少数支持该法案并更广泛地制定人工智能法规的科技领袖之一。

在 8 月 26 日发给 X 的帖子中，马斯克表示“加州应该通过 SB 1047 人工智能安全法案”，但他承认支持该法案是一个“艰难的决定”。