加州SB 53法案：Anthropic力挺AI治理新纪元
引言：AI监管的紧迫性与加州的先行探索
在人工智能技术飞速发展的当下，如何有效、负责任地治理日益强大的AI系统，已成为全球各国政府和科技企业面临的核心挑战。特别是随着前沿AI模型能力边界的不断拓宽，其潜在的社会影响和风险也同步增长。美国各州，尤其是加州，作为全球科技创新的前沿阵地，正积极探索制定符合时代需求的AI监管框架。在此背景下，知名AI研究公司Anthropic近期正式宣布支持加州SB 53法案，这一举动不仅彰显了其对AI负责任发展的坚定承诺，也为州级AI立法进程注入了新的动力。此次支持是在对加州此前AI监管尝试（如SB 1047法案）经验进行深入反思后做出的，旨在推动建立一套既能保障公共安全、又能促进创新的务实监管体系。
SB 53法案的核心理念与关键要求
SB 53法案脱胎于加州州长纽森召集成立的“加州联合政策工作组”的建议，该工作组采纳了“信任但验证”的核心原则，避免了去年SB 1047法案中僵化的技术指令，转而聚焦于信息披露和透明度。这一转变是其获得业界支持的关键所在。SB 53法案旨在要求开发最强大AI系统的大型企业，遵循一系列严格的透明度、安全性和问责制要求：
建立并发布安全框架：开发者需制定并公开详细的安全框架，阐述其如何管理、评估和减轻可能导致大规模伤亡事件或巨大经济损失的灾难性风险。这不仅是对内部风险管理流程的标准化，更是向公众传递其对风险控制的决心。
公开透明度报告：在部署新的强大模型之前，相关企业必须发布公开的透明度报告，总结其灾难性风险评估结果及为履行安全框架所采取的具体措施。此类报告将作为外部监督和公众理解AI系统潜在风险的重要窗口，例如，报告可以包含模型在特定高风险应用场景（如自动驾驶决策、医疗诊断辅助）下的安全性测试结果、潜在偏见的缓解策略以及对抗性攻击的鲁棒性表现。
关键安全事件报告：法案要求企业在15天内向州政府报告关键安全事件。此外，对于内部部署模型，企业还需保密披露其对潜在灾难性风险的评估摘要。这种双轨制报告机制，既保证了公共安全信息的及时传递，也兼顾了企业敏感信息的保护，例如，若某AI系统在内部测试中发现存在可能被恶意利用的漏洞，即使尚未对外发布，也需向监管机构报告。
提供举报人保护：法案明确规定了举报人保护条款，涵盖了对违反这些要求以及因灾难性风险对公共健康/安全造成特定重大危害的举报。这鼓励了内部人员积极报告潜在问题，是确保企业合规运营和防范内部风险的关键机制，例如，一位工程师发现公司产品在未经充分安全评估的情况下被部署，可以通过法案获得保护并进行举报。
承诺的公共问责：企业对其在安全框架中所做的承诺负有公共责任，若未能履行，将面临经济处罚。这为监管机构提供了有效的执行工具，确保企业不仅仅是口头承诺，而是真正将安全措施落到实处，例如，如果某公司在安全框架中承诺将进行第三方独立安全审计，但未能按期完成，则可能面临罚款。
规范化行业实践与公平竞争环境的构建
SB 53法案的这些要求，在很大程度上是对Anthropic等前沿AI公司当前已遵循的最佳实践的制度化。例如，Anthropic发布了其“负责任扩展政策”（Responsible Scaling Policy），详细说明了在模型能力提升过程中如何评估和缓解风险，并定期发布全面的“系统卡片”（System Cards），记录模型的能力和局限性。同样，Google DeepMind、OpenAI和Microsoft等其他领先的AI实验室也已采纳类似方法，尽管它们在技术前沿领域激烈竞争，但对安全和透明度的承诺是一致的。SB 53的通过意味着，所有受法案管辖的AI模型都将被法律强制要求达到这一标准，而非仅仅依赖于企业的自愿行为。
更为重要的是，SB 53法案恰当地将监管重点放在了开发最强大AI系统的大型企业上，同时为初创公司和规模较小的公司提供了豁免。这是因为这些小公司开发强大模型的可能性较低，不应承担不必要的监管负担。这种分级监管策略有助于避免扼杀创新，确保资源集中在风险最高的领域。
该法案的透明度要求将对前沿AI安全产生深远影响。如果没有这样的法规，拥有日益强大模型的实验室可能会在竞争压力下，有动机削减其自身的安全和披露项目。但有了SB 53，开发者可以在确保对可能构成公共安全风险的AI能力保持透明的同时进行竞争，从而创建一个披露义务化而非可选的公平竞争环境。例如，此前一些企业可能为了快速抢占市场而简化安全测试流程，但在SB 53的框架下，所有参与者都必须在透明度上达到统一标准，从而激励所有公司共同提升安全水平。
展望未来：持续完善与全球协作
尽管SB 53法案为AI治理奠定了坚实的基础，但在某些领域仍有进一步完善的空间，Anthropic也期待与政策制定者共同推进这些改进：
计算能力阈值的动态调整：目前，法案根据用于训练AI系统的计算能力（FLOPS）来决定哪些系统需要监管，当前阈值为10^26 FLOPS。尽管这是一个可接受的起点，但AI技术发展迅速，未来有可能出现一些强大的模型可能因未达到此阈值而未被覆盖。因此，需要建立一个机制，允许监管机构根据技术进步动态调整这一阈值，以确保法规的有效性和前瞻性。
更详细的测试、评估与缓解措施：开发者应被要求提供更详细的关于其所进行的测试、评估和缓解措施的信息。当AI实验室分享其安全研究、记录其红队测试（red team testing）并解释其部署决策时（如通过Frontier Model Forum等平台），这不仅不会削弱其工作，反而会增强其可靠性。例如，公开具体的压力测试场景、模型在不同风险级别下的失败率、以及针对性缓解措施的实施效果，将有助于监管机构和公众更全面地理解模型风险。
法规的适应性与演进：AI技术日新月异，法规也需要具备相应的适应性。监管机构应拥有更新规则的权力，以便根据新发展及时调整，并在安全与创新之间保持恰当的平衡。这可能包括设立专家委员会定期审查法规、引入“监管沙盒”机制允许在受控环境下测试新法规的影响，以及建立快速响应机制以应对突发的技术挑战。
结论：迈向负责任AI治理的坚定步伐
SB 53法案是加州在负责任AI治理方面迈出的重要一步，我们赞扬参议员斯科特·维纳和州长纽森在这一领域的领导力。问题不在于我们是否需要AI治理，而在于我们是今天深思熟虑地发展它，还是明天被动地做出反应。SB 53为前者提供了一条坚实的道路。我们鼓励加州通过这项法案，并期待与华盛顿乃至全球的政策制定者合作，制定全面的方法，既能保护公共利益，又能维护美国在AI领域的领导地位。通过前瞻性的立法和持续的行业协作，我们有能力确保AI技术在造福人类的同时，最大程度地规避潜在风险，共同开启一个更加安全、透明的智能时代。
