AI监管新突破:Anthropic支持SB 53法案引领行业规范

1

人工智能技术的迅猛发展带来了前所未有的机遇与挑战。作为行业领先企业,Anthropic近日宣布支持加州SB 53法案,这一举措标志着AI监管进入新阶段。SB 53法案专门针对由Anthropic等前沿AI开发者开发的高强度AI系统制定监管框架,体现了企业对负责任AI治理的承诺。

从SB 1047到SB 53:AI监管的演进

Anthropic一直倡导深思熟虑的AI监管,对SB 53的支持是基于对加州先前AI监管尝试(SB 1047)的深思熟虑。SB 1047曾因过于技术性的指令而备受争议,而SB 53则采用了更为灵活的'信任但验证'原则,通过披露要求而非强制性技术规范来实现监管目标。

AI监管演进

州长纽森组建的加州政策联合工作组由学术界和行业专家组成,为AI治理提供建议。该工作组认可'信任但验证'的方法,而参议员Scott Wiener的SB 53法案正是通过披露要求而非技术指令来实现这一原则,避免了去年努力中出现的指令性技术 mandates 问题。

SB 53法案的核心内容

SB 53法案要求开发最强大AI系统的大型公司采取以下措施:

1. 安全框架的制定与发布

公司需要开发和发布安全框架,详细描述如何管理、评估和缓解灾难性风险——这些风险可能导致大规模伤亡事件或重大经济损失。Anthropic已经实践了这一点,通过发布《负责任扩展政策》,详细说明如何评估和缓解模型能力增强带来的风险。

2. 透明度报告的公开

在部署新的强大模型之前,公司需要发布透明度报告,总结其灾难性风险评估和履行各自框架所采取的措施。Anthropic还发布了全面的系统卡片,记录模型的能力和局限性,其他前沿实验室如Google DeepMind、OpenAI和Microsoft也采用了类似方法。

3. 安全事件的报告

公司需要在15天内向州政府报告关键安全事件,甚至可以机密披露对内部部署模型潜在灾难性风险评估的摘要。这确保了监管机构能够及时了解可能影响公共安全的事件。

4. 举报人保护

法案提供明确的举报人保护,涵盖对这些要求的违反以及灾难性风险对公众健康/安全的特定和重大危险。这鼓励内部人员报告潜在问题,而不必担心报复。

5. 公开问责

公司对其框架中的承诺承担公开责任,否则将面临经济处罚。这确保了公司不仅口头承诺安全,而是真正付诸实践。

SB 53对AI行业的影响

SB 53的要求将正式化Anthropic和许多其他前沿AI公司已经实践的做法。通过将这些做法法律化,法案为行业设定了标准,确保所有受监管模型都达到这一标准。

平衡竞争与安全

SB 53的透明度要求将对前沿AI安全产生重要影响。没有它,拥有越来越强大模型的实验室可能会面临越来越大的压力,减少自己的安全和披露计划以保持竞争力。但有了SB 53,开发人员可以在确保对可能危害公共安全的AI能力保持透明的同时进行竞争,创造一个披露是强制而非可选的公平竞争环境。

对初创企业的友好政策

法案适当关注开发最强大AI系统的大型公司,同时为不太可能开发强大模型且不应承担不必要监管负担的初创企业和较小公司提供豁免。这种平衡确保了监管不会阻碍创新,同时保护公众安全。

未来发展方向

尽管SB 53提供了坚实的监管基础,但仍有改进空间:

计算能力阈值的优化

法案目前根据训练AI系统使用的计算能力(FLOPS)决定监管哪些AI系统。当前的阈值(10^26 FLOPS)是一个可接受的起点,但存在一些强大模型可能未被覆盖的风险。随着技术发展,这一阈值可能需要调整。

测试细节的披露

开发人员应被要求提供更多关于他们进行的测试、评估和缓解措施的细节。当Anthropic分享安全研究、记录红队测试并解释部署决策时,这加强了而非削弱了我们的工作。这种透明度有助于建立行业最佳实践。

监管规则的动态更新

随着AI技术的进步,监管需要不断演变。监管机构应能够根据需要更新规则,以跟上新的发展,并在安全与创新之间保持适当的平衡。这种灵活性对于应对快速发展的AI领域至关重要。

全球AI治理的展望

Anthropic赞扬参议员Wiener和州长纽森在负责任AI治理方面的领导力。问题不是我们是否需要AI治理,而是我们今天是否会深思熟虑地发展它,还是明天被动地应对。SB 53为前者提供了坚实的路径。

Anthropic鼓励加州通过此法案,并期待与华盛顿及世界各地的政策制定者合作,制定既保护公众利益又维护美国AI领导力的全面方案。全球AI治理需要多方合作,确保监管既不过于严格阻碍创新,也不过于宽松危害安全。

结论

Anthropic支持SB 53法案的决定体现了企业对负责任AI发展的承诺。通过采用'信任但验证'的原则,该法案在确保AI安全的同时保持了创新空间。随着AI技术的不断发展,监管框架也需要相应调整,以平衡安全与创新的需求。SB 53为加州乃至全球AI治理提供了重要参考,未来有望在此基础上建立更为完善的AI治理体系。