在人工智能技术迅猛发展的今天，如何有效监管前沿AI系统已成为全球政策制定者面临的重要挑战。2025年9月，Anthropic宣布支持SB 53法案，这是一项旨在规范强大AI系统的加州监管提案。这一决定标志着AI行业与监管机构之间正在形成新型合作关系，也为其他地区的AI治理提供了重要参考。
SB 53法案的核心内容
SB 53法案代表了加州在AI监管领域的最新尝试，其核心理念是"信任但验证"。与去年备受争议的SB 1047相比，SB 53不再采用强制性技术规范，而是通过披露要求来确保AI系统的安全性。这一转变体现了监管思路的成熟，既认识到AI技术创新的重要性，又不忘保障公共安全的责任。
法案针对开发最强大AI系统的大型公司提出了多项要求：
安全框架开发与发布：公司需要制定并发布安全框架，详细说明如何管理、评估和缓解可能造成大规模伤亡或重大经济损失的灾难性风险。
透明度报告：在部署新的强大模型前，公司需发布透明度报告，总结其灾难性风险评估结果以及为履行各自安全框架所采取的措施。
安全事件报告：要求公司在15天内向州政府报告关键安全事件，并可机密披露内部部署模型潜在灾难性风险评估的摘要。
举报人保护：提供明确的举报人保护措施，涵盖对这些要求的违反以及从灾难性风险对公共健康/安全构成的具体和实质性危险。
公共问责：公司对其在框架中做出的承诺承担公共责任，否则将面临经济处罚。
"信任但验证"原则的监管智慧
SB 53法案采用的"信任但验证"原则体现了监管思路的进步。这一原则承认AI公司在安全管理方面的专业能力，同时通过透明度要求确保其行为符合公共利益。这种平衡的监管方式避免了过度干预可能抑制创新的风险，又防止了行业自律不足带来的安全隐患。
Anthropic等前沿AI公司已经自发采取了类似的安全实践。例如，Anthropic发布了《负责任扩展政策》，详细说明如何评估和缓解模型能力提升带来的风险；还发布了全面的系统卡片，记录模型的能力和局限性。其他前沿实验室如Google DeepMind、OpenAI和Microsoft也采用了类似方法。SB 53将这些实践合法化，使所有受监管模型都有法律标准可依。
SB 53对AI安全的重要影响
SB 53的透明度要求将对前沿AI安全产生深远影响。随着AI模型能力的不断增强，实验室面临的安全压力也在增加。在没有统一监管的情况下，各实验室可能面临降低自身安全和披露计划的压力，以便在竞争中取得优势。
SB 53通过强制披露要求，创造了一个公平的竞争环境，使所有开发者在竞争中保持对公共安全风险的透明度。这不仅不会削弱竞争力，反而通过建立行业标准，使整个行业受益。小型企业和初创公司也获得了豁免，避免了不必要的监管负担，同时法案专注于开发最强大AI系统的大型公司，确保监管资源得到合理分配。
前瞻性思考：SB 53的改进空间
尽管SB 53提供了坚实的监管基础，但仍有多个方面可以进一步完善：
计算能力阈值的精准调整
法案目前根据训练AI系统所使用的计算能力（FLOPS）来决定监管范围。当前的10^26 FLOPS阈值是一个可接受的起点，但存在某些强大模型可能未被覆盖的风险。随着AI技术的快速发展，这一阈值需要定期评估和调整，以确保所有真正强大的系统都得到适当监管。
安全信息披露的深度与广度
开发者应被要求提供更详细的安全测试、评估和缓解措施信息。当企业分享安全研究、记录红队测试结果并解释部署决策时，这实际上加强了而非削弱了他们的工作。通过Frontier Model Forum等行业组织的信息共享机制，可以建立更全面的安全知识库，促进行业最佳实践的传播。
监管框架的动态适应性
AI技术日新月异，监管框架需要具备足够的灵活性以适应这些变化。监管机构应拥有更新规则的权力，以便跟上新技术的发展，同时保持安全与创新之间的平衡。这种动态监管机制可以确保法规不会因技术过时而失去效力，也不会因僵化而阻碍创新。
政策领导力与全球AI治理
Senator Wiener和Governor Newsom在负责任AI治理方面的领导力值得肯定。SB 53为AI治理提供了一条切实可行的路径，证明了在技术创新与安全保障之间可以找到平衡点。
Anthropic鼓励加州通过SB 53，并期待与华盛顿及世界各地的政策制定者合作，制定既能保护公众利益又能维持美国AI领导地位的综合方法。AI治理的挑战是全球性的，需要多方协作，共同制定适应各国国情但原则一致的监管框架。
结语：AI治理的新范式
SB 53法案代表了AI监管的新范式——基于信任的透明度监管。这种模式既尊重行业自主性，又确保公共安全，为全球AI治理提供了重要参考。随着AI技术的不断演进，监管框架也需要持续调整和完善，但SB 53确立的"信任但验证"原则，将指导我们走向更加负责任的AI未来。
在联邦层面监管尚未完善的情况下，加州的这一举措具有重要的示范意义。它证明了对前沿AI系统进行适度监管是可行的，且有助于促进行业健康发展。随着更多州和国家采取类似措施，一个全球性的AI治理体系正在逐步形成，这将确保AI技术的发展始终服务于人类的共同利益。
