加州AI新法：透明度取代安全测试，科技巨头如愿以偿

加州州长加文·纽森于2025年9月签署了《前沿人工智能透明度法案》，这项备受争议的新法规要求AI公司披露其安全实践，但并未强制要求进行实际的安全测试。这一转变标志着加州在AI监管道路上的重大转向，也引发了关于监管与创新发展平衡的广泛讨论。

新法案的核心内容

新法案S.B. 53取代了参议员斯科特·维纳此前提出的AI监管尝试S.B. 1047。根据新规定，年收入至少5亿美元的公司必须在网站上公布安全协议，并向州当局报告事件。然而，与被纽森州长去年否决的S.B. 1047相比，新法案缺乏更严格的执行机制。

"加州已经证明，我们可以在保护社区的同时，确保蓬勃发展的AI产业持续增长，"纽森在声明中表示。尽管如此，除了基本的报告要求外，该法案的实际保护措施在很大程度上仍然是自愿的。

根据加州州政府数据，该州拥有全球前50名AI公司中的32家，去年全球超过一半的风险投资资金流向了湾区AI和机器学习初创公司。因此，尽管这项新法案是州级立法，但加州在AI监管方面的决策将产生更广泛的影响，既通过立法先例，也影响那些开发全球使用AI系统的公司。

加州州长纽森

加州州长加文·纽森于2025年8月参加一项法案签署活动。图片来源：贾斯汀·沙利文通过盖蒂图片社

在被否决的SB 1047中，原本要求AI系统进行安全测试并配备"紧急停止开关"，而新法则专注于信息披露。公司必须向加州紧急服务办公室报告所谓的"潜在关键安全事件"，并为提出安全问题的员工提供举报人保护。

该法案将灾难性风险狭义地定义为可能造成50多人死亡或10亿美元损失的事件，这些事件可能涉及武器协助、自主犯罪行为或系统失控。总检察长可以对不遵守这些报告要求的违规行为处以每起最高100万美元的民事罚款。

从强制安全测试到自愿披露的转变，是一年来密集游说的结果。《纽约时报》报道，Meta和风险投资公司安德森·霍洛维茨已承诺向两个支持AI产业友好政客的超级政治行动委员会捐赠高达2亿美元，同时公司也推动制定联邦立法，以优先于各州的AI规则。

最初的SB 1047由AI安全倡导者起草，他们警告说AI存在来自科幻小说中假设场景和情节的生存威胁。然而，该法案遭到了AI公司的抵制，他们认为这些要求过于模糊，潜在的报告负担过于繁重。

新法案遵循了纽森召集的AI专家的建议，包括斯坦福大学的李飞飞和前加州最高法院大法官马里亚诺-弗洛伦蒂诺·奎利亚尔。

与SB-1047一样，新法案创建了CalCompute，这是政府事务机构内的一个联盟，用于开发公共计算集群框架。加州技术部将建议每年更新该法案，尽管这些建议不需要立法行动。

参议员维纳将这项法律描述为建立"常识性的护栏"，而Anthropic的联合创始人杰克·克拉克则称该法律的安全措施"实用"。然而，透明度要求很可能反映了主要AI公司已经采用的标准实践，而缺乏执行机制或具体标准的披露要求，从长远来看可能对潜在的AI危害提供有限的保护。

科技行业在这场监管博弈中展现了强大的游说能力。通过政治捐款、行业联盟和专家论证，他们成功地将监管重点从强制安全转向自愿披露。

Meta和安德森·霍洛维茨等公司的政治捐款表明，科技巨头愿意投入大量资源来塑造有利的监管环境。同时，他们推动的联邦优先立法策略也旨在限制各州制定更严格法规的能力。

新法案反映了监管者对行业自律的某种信任，认为AI公司有能力自我监管并制定安全标准。然而，这种信任是否明智仍有待观察。

行业自律的优势在于能够保持创新活力，避免过度监管带来的僵化。然而，当涉及可能影响公共安全的AI系统时，完全依赖自律可能存在风险。历史表明，在没有外部监督的情况下，企业可能会优先考虑利润而非安全。

作为全球AI创新中心，加州的监管决策将对全球产生深远影响。一方面，加州的监管框架可能成为其他地区制定类似法规的参考；另一方面，过于宽松的监管也可能降低全球AI安全标准。

加州拥有全球32家顶级AI公司中的32家，这一地位使其监管决策具有全球影响力。当加州选择较宽松的监管路径时，可能会影响全球AI安全标准的制定。

AI监管的核心挑战在于如何在确保安全的同时不扼杀创新。过于严格的监管可能会阻碍创新，而过松的监管则可能导致安全风险。

加州新法案试图在这两者之间找到平衡，通过透明度要求提供一定程度的监督，同时避免对AI开发过程施加过多限制。然而，这种平衡是否恰当仍需时间检验。

随着AI技术的快速发展，监管框架需要不断调整以应对新的挑战。未来AI监管可能会朝着以下方向发展：

AI监管会议

AI监管相关会议现场，各方代表讨论未来监管方向

加州AI新法的签署标志着AI监管进入新阶段。从强制安全到自愿透明的转变，反映了科技行业游说的成功，也凸显了监管与创新的复杂平衡。

虽然新法案在保护公众安全方面可能存在局限，但它为AI监管提供了一个重要案例，展示了如何在保护创新的同时提供一定程度的监督。未来，随着AI技术的不断发展，监管框架需要不断调整和完善，以确保AI技术的发展符合人类的长远利益。

加州的经验表明，AI监管不是一次性的任务，而是一个持续的过程，需要政府、企业、学术界和公众的共同努力。只有通过多方协作，才能制定出既促进创新又保障安全的监管框架。