加州AI新法:大科技公司如愿以偿的监管妥协

1

加州州长加文·纽森于周一签署了《前沿人工智能透明度法案》,要求AI公司披露其安全实践,但并未强制要求实际的安全测试。这项法律要求年收入至少5亿美元的公司在其网站上发布安全协议,并向州当局报告事件,但它缺乏纽森去年在科技公司强烈游说后否决的法案中更强的执法力度。

这项名为S.B. 53的立法取代了参议员斯科特·维纳先前的AI监管尝试,即S.B. 1047,后者曾要求AI系统进行安全测试并配备'kill switch'。相反,新法律要求公司描述他们如何将'国家标准、国际标准和行业共识最佳实践'纳入其AI开发中,但没有具体说明这些标准是什么,也不要求独立验证。

"加州已经证明,我们可以在保护社区的同时确保蓬勃发展的AI产业持续增长,"纽森在一份声明中表示,尽管该法律的实际保护措施除了基本报告要求外,在很大程度上仍是自愿的。

加州在全球AI格局中的关键地位

根据加州州政府的数据,该州拥有全球50强AI公司中的32家,去年全球超过一半的风险资本资金投入了旧金山湾区的AI和机器学习初创公司。因此,虽然最近签署的法案是州级立法,但加州AI监管的发展将通过立法先例以及影响全球使用的AI系统公司,产生更广泛的影响。

加州州长加文·纽森在2025年8月的一次法案签署活动中

加州作为全球AI创新中心的地位,使其监管决策具有特殊重要性。当加州制定规则时,其他州和国家往往会密切关注,可能会采用类似的做法。此外,总部设在加州的AI公司产品和服务在全球范围内使用,意味着该州的监管要求可能间接影响世界各地的用户。

从强制测试到自愿披露的转变

在被否决的SB 1047原本将强制要求AI系统进行安全测试和配备'kill switch',而新法律则侧重于披露。公司必须向加州紧急服务办公室报告州政府所称的'潜在关键安全事件',并为提出安全问题的员工提供举报人保护。该法律将灾难性风险狭义定义为可能造成50多人死亡或10亿美元损失的事件,这些事件通过武器辅助、自主犯罪行为或失控造成。总检察长可以对不遵守这些报告要求的行为处以每起违规最高100万美元的民事罚款。

从强制安全测试转向自愿披露的转变,是一年激烈游说的结果。《纽约时报》报道,Meta和风险投资公司安德森·霍洛维茨已承诺向两个分别支持对AI行业友好的政治家的超级政治行动委员会捐赠高达2亿美元,同时公司也推动制定将优先于各州AI规则的联邦立法。

最初的SB 1047及其争议

最初的SB 1047是由AI安全倡导者起草的,他们警告AI存在来自科幻小说中假设场景和套路的生存威胁,但它遭到了AI公司的抵制,这些公司认为这些要求过于模糊,潜在的报告负担过于繁重。新法律遵循了纽森召集的AI专家的建议,包括斯坦福大学的李飞飞和前加州最高法院大法官马里亚诺-弗洛伦蒂诺·奎拉。

SB 1047的批评者认为,该法案的要求过于宽泛,可能会扼杀创新,并给公司带来不必要的合规负担。科技公司辩称,安全测试应该基于科学方法,而不是科幻小说中的假设场景。他们还担心,强制性的'kill switch'可能会干扰AI系统的正常运行,并可能被滥用。

新法案的实际影响与局限

与SB-1047一样,新法案创建了CalCompute,这是一个隶属于政府事务机构的联盟,旨在开发公共计算集群框架。加州技术部将每年建议更新该法律,尽管这些建议不需要立法行动。

参议员维纳将该法律描述为建立'常识性护栏',而Anthropic的联合创始人杰克·克拉克则称该法律的保障措施'实用',尽管透明度要求可能反映了主要AI公司已经采用的标准实践,而缺乏执行机制或具体标准的披露要求,从长远来看可能对防范潜在AI危害提供有限保护。

加州州长加文·纽森在2025年8月

行业反应与未来展望

AI行业对新法案的反应总体上是积极的,认为这是一个平衡的解决方案,既提供了一定的透明度,又不会过度限制创新。然而,批评者担心,这种自愿披露模式可能无法有效防范潜在AI危害,因为公司可能会选择性地披露信息,或者以最小化风险的方式呈现其安全实践。

随着AI技术的快速发展,监管机构面临着持续调整规则的挑战。加州的新法案可能会成为其他州和国家制定类似立法的模板,但也可能随着技术发展和经验积累而进一步修改。未来,我们可能会看到更多关于AI安全标准、独立验证机制以及更有效的执行机制的讨论。

监管与创新的平衡

加州AI监管的最新发展凸显了政策制定者在确保AI安全与促进创新之间寻找平衡的持续挑战。一方面,强有力的监管可以保护公众免受潜在危害,确保AI系统负责任地开发和使用。另一方面,过于严格的监管可能会阻碍创新,使美国在与全球AI竞赛中处于劣势。

新法案的妥协性质反映了这种平衡的复杂性。通过放弃强制安全测试的要求,政策制定者试图在不扼杀创新的情况下提供一定程度的透明度和问责制。然而,这种方法的长期有效性仍有待观察,特别是在AI技术快速发展和潜在风险不断演变的情况下。

结论

加州最新签署的AI透明度法案代表了AI监管的一个重要转折点,从试图强制执行严格的安全措施转向要求自愿披露。这一转变反映了科技行业的游说力量,以及在监管与创新之间寻找平衡的持续挑战。虽然新法案可能为AI公司提供了更大的灵活性,但批评者担心它可能无法有效防范潜在AI危害。随着AI技术的不断发展,我们可能会看到监管框架的进一步演变,以应对新兴挑战和机遇。加州作为全球AI创新中心,其监管决策将继续对全球AI格局产生深远影响。