在人工智能技术飞速发展的今天，如何平衡创新与安全已成为全球政策制定者面临的核心挑战。2025年9月，人工智能研究公司Anthropic公开宣布支持加州SB 53法案，这一表态标志着科技巨头与监管机构之间新型合作关系的建立，也为全球AI治理提供了重要参考。
从SB 1047到SB 53：加州AI监管的演进
加州在AI监管领域的探索并非始于SB 53。2023年提出的SB 1047法案曾引发行业广泛争议，该法案试图通过强制性技术规范来监管前沿AI系统。然而，这种一刀切的方式被认为可能阻碍创新，且难以适应快速变化的技术环境。
基于SB 1047的经验教训，加州州长纽森组建了加州联合政策工作组，汇集学术界和行业专家共同探讨AI治理方案。工作组提出了"信任但验证"的监管原则，这一理念最终在参议员斯科特·维纳提出的SB 53法案中得到体现。与SB 1047不同，SB 53更注重信息披露和透明度，而非具体技术规范，为AI监管提供了新思路。
SB 53法案的核心内容与要求
SB 53法案针对开发最强大AI系统的大型公司提出了一系列具体要求，这些要求旨在确保AI发展的同时保护公众安全。
安全框架的制定与发布
法案要求受监管公司开发并发布安全框架，详细说明如何管理、评估和缓解灾难性风险——这些风险可能预见性地导致大规模伤亡事件或重大经济损失。Anthropic已经发布了其《负责任扩展政策》，详细阐述了如何随着模型能力提升来评估和缓解风险，这一实践将成为行业标杆。
透明度报告制度
在部署新的强大模型之前，公司需要发布透明度报告，总结其灾难性风险评估结果以及为履行各自框架所采取的措施。这种透明度要求将促使企业更加审慎地评估AI系统的潜在风险，并向公众披露相关信息。
安全事件报告机制
法案规定，公司必须在15天内向州政府报告关键安全事件，甚至可以机密披露对内部部署模型潜在灾难性风险评估的摘要。这一机制确保监管机构能够及时了解AI系统运行中的安全问题，采取必要措施。
举报人保护措施
SB 53包含明确的举报人保护条款，覆盖对这些要求的违反以及对公共健康/安全构成具体和实质性危险的灾难性风险。这将鼓励内部人员报告潜在问题，增强监管的有效性。
公众问责与经济处罚
法案要求公司对其框架中的承诺负责，否则将面临经济处罚。这种问责机制确保企业不会仅仅停留在纸面上的承诺，而是真正将安全理念融入AI开发的各个环节。
"信任但验证"：监管新哲学
SB 53法案体现了"信任但验证"的监管哲学，这一理念在科技监管领域具有创新意义。与传统的命令控制型监管不同，"信任但验证"模式首先承认企业在AI安全方面的专业知识和自主性，但同时要求通过透明度和问责制来验证这种信任。
这种监管模式的优势在于：
- 灵活性：不规定具体技术实现方式，允许企业根据自身情况选择最适合的安全措施
- 适应性：能够适应快速发展的AI技术，不会因技术进步而过时
- 创新友好：减少了对创新的直接限制，企业可以在保障安全的前提下自由探索
- 可扩展性：随着技术发展，监管框架可以逐步调整，而非彻底重构
行业影响：从自愿到强制
Anthropic、Google DeepMind、OpenAI和Microsoft等前沿实验室已经自愿采用了类似的安全框架和透明度措施。例如，Anthropic发布了详细的系统卡片，记录模型的能力和局限性；Google DeepMind推出了前沿安全框架；OpenAI更新了其准备度框架；Microsoft则发布了前沿治理框架。
SB 53将这些自愿实践转化为法律要求，创造了公平竞争环境，防止企业为了竞争而降低安全标准。正如Anthropic所指出的，"没有SB 53，拥有越来越强大模型的实验室可能面临越来越大的激励，以减少自己的安全和披露计划以进行竞争。但有了SB 53，开发者可以在竞争的同时确保他们对可能对公共安全构成风险的AI能力保持透明。"
对初创企业的保护
SB 53的一个关键特点是它专注于开发最强大AI系统的大型公司，同时为不太可能开发强大模型的初创企业和较小公司提供豁免。这种差异化监管避免了给创新生态系统带来不必要的负担，确保监管资源集中在真正需要关注的领域。
未来发展方向
尽管SB 53为AI监管提供了坚实基础，但Anthropic也指出了一些可以进一步完善的领域：
计算能力阈值的调整
目前法案基于训练模型所需的计算能力（FLOPS）来决定监管范围，阈值为10^26 FLOPS。Anthropic认为这是一个合理的起点，但也存在一些强大模型可能未被覆盖的风险。未来监管需要更精确地识别需要监管的系统。
评估细节的扩展
开发者应被要求提供关于他们进行的测试、评估和缓解措施的更多细节。当企业分享安全研究、记录红队测试并解释部署决策时，这实际上加强了而非削弱了他们的工作。通过Frontier Model Forum等行业倡议，企业已经开始分享这类信息，SB 53可以进一步促进这种透明度。
监管框架的动态更新
AI技术在不断发展，监管框架也需要相应演进。监管机构应能够根据需要更新规则，跟上新发展步伐，并在安全与创新之间保持适当平衡。这种动态监管机制对于应对快速变化的AI环境至关重要。
全球AI治理的启示
SB 53法案不仅对加州具有重要意义，也为全球AI治理提供了宝贵经验。它展示了一种平衡创新与监管的可能路径：通过透明度和问责制而非直接技术干预来管理AI风险。
Anthropic在声明中强调："问题不是我们是否需要AI治理——而是我们今天是否会深思熟虑地发展它，还是明天被动应对。SB 53为前者提供了坚实的道路。"这一观点反映了科技行业对前瞻性监管的渴望，以及对被动式监管可能导致的不确定性的担忧。
结论
SB 53法案代表了AI监管领域的重要进步，它基于"信任但验证"原则，通过透明度和问责制而非强制性技术规范来平衡创新与安全。Anthropic的支持表明，科技巨头正在积极参与监管框架的构建，这种合作对于确保AI技术造福人类至关重要。
随着AI技术的不断发展，监管框架也需要持续演进。SB 53提供了一个良好的起点，但未来还需要在计算能力阈值、评估细节和监管动态性等方面进一步完善。通过这种持续改进，我们可以期待一个既促进创新又保障安全的AI发展环境。
正如Anthropic所呼吁的，加州应通过SB 53，同时政策制定者应在华盛顿和全球范围内共同努力，制定既保护公众利益又维持美国AI领导力的全面方法。这不仅是对加州的期望，也是对全球AI治理的共同愿景。
