人工智能安全防护等级3（ASL-3）启动：应对CBRN武器风险的新策略
在人工智能（AI）领域，随着模型能力的不断提升，安全问题日益凸显。Anthropic公司于2025年5月22日宣布，其最新模型Claude Opus 4已启动人工智能安全防护等级3（ASL-3）的部署和安全标准。这一举措标志着AI安全领域进入了一个新的阶段，旨在应对潜在的化学、生物、放射性和核武器（CBRN）风险。
背景：责任扩展策略（RSP）与能力阈值
Anthropic的责任扩展策略（Responsible Scaling Policy，RSP）是其AI安全框架的核心。该策略强调，随着AI模型能力的增强，必须采取相应强度的部署和安全保护措施。RSP包含针对模型的“能力阈值”，一旦模型达到这些阈值，或无法确定模型远低于这些阈值时，就必须实施更高等级的“AI安全等级标准”。
此前，Anthropic的所有模型均在AI安全等级2（ASL-2）的标准下部署，该标准包括训练模型拒绝危险的CBRN相关请求，并防御机会主义的权重窃取尝试。而ASL-3标准则要求更高水平的防御，以应对来自复杂非国家行为者的部署和安全威胁。
启动ASL-3的原因：预防性措施
值得注意的是，Anthropic尚未确定Claude Opus 4的能力是否真正需要ASL-3标准的保护。然而，考虑到CBRN相关知识和能力的不断提高，公司认为无法像以前的模型那样明确排除ASL-3风险。因此，Anthropic选择采取预防措施，启动ASL-3标准，以便更详细地研究模型的风险水平。
Anthropic强调，Claude Opus 4不需要ASL-4标准，而Claude Sonnet 4也不需要ASL-3标准。这种分级处理体现了Anthropic在AI安全方面的审慎态度。
部署措施：三管齐下
ASL-3的部署措施主要集中于防止模型协助CBRN武器相关的任务，特别是那些能够增强现有CBRN工作流程的端到端任务。这些措施包括限制“通用越狱”——即允许攻击者绕过安全防护，持续提取CBRN相关信息的系统性攻击。
Anthropic采取了三管齐下的方法来应对这些挑战：
- 提高系统越狱难度：通过实施“宪法分类器”（Constitutional Classifiers），实时监控模型输入和输出，阻止有害的CBRN信息。这种分类器基于合成数据进行训练，能够在不显著增加计算开销的情况下，大幅降低越狱成功率。
- 检测越狱行为：建立更广泛的监控系统，包括漏洞赏金计划和威胁情报合作，以快速识别和响应潜在的通用越狱。
- 迭代改进防御：利用合成越狱等方法，快速修复已发现的漏洞，并使用这些数据训练新的分类器。
这些措施都需要持续改进，以提高其有效性，并减少对合法查询的潜在影响。然而，它们代表了在防御AI能力被灾难性滥用方面的一个重大进步。
安全控制：多层防御体系
除了部署措施外，ASL-3还包括针对模型权重的安全控制。这些控制旨在防止模型权重被盗，从而避免未经授权的访问和滥用。
Anthropic采用了超过100种不同的安全控制，将预防性控制与检测机制相结合，主要针对来自复杂非国家行为者的威胁。这些控制涵盖了从初始入口点到横向移动，再到最终数据提取的各个环节。
其中一项独特的控制是初步出口带宽控制。通过限制安全计算环境中AI模型权重的数据流出速率，可以利用模型权重的大小来创造安全优势。当检测到潜在的模型权重泄露时，安全系统可以阻止可疑流量。
持续改进与合作
Anthropic强调，部署和安全措施的选择是一个持续演进的过程。公司将继续内省、迭代和改进，通过ASL-3标准的实际运行，发现新的问题和机会。同时，Anthropic还将与AI行业的其他参与者、Claude用户以及政府和民间社会的合作伙伴合作，共同改进模型防护方法。
案例分析：宪法分类器在CBRN防御中的应用
宪法分类器是Anthropic在ASL-3部署措施中的一项关键创新。该分类器通过模拟有害和无害的CBRN相关提示和完成，进行实时训练。其核心思想是，通过对模型输入和输出进行实时监控，可以有效地阻止有害信息的传播，从而降低模型被用于CBRN武器开发的风险。
例如，当用户尝试向模型询问如何合成沙林毒气时，宪法分类器可以立即识别出这一请求的潜在危害，并阻止模型生成相关信息。这种实时干预的能力，使得宪法分类器成为防御CBRN风险的一道重要屏障。
数据佐证：漏洞赏金计划的成果
为了验证和改进其安全措施，Anthropic设立了漏洞赏金计划，鼓励安全研究人员和公众参与到模型的安全测试中。通过这一计划，Anthropic能够及时发现并修复潜在的安全漏洞，从而提高模型的整体安全性。
例如，在漏洞赏金计划的早期阶段，研究人员发现了一种新型的越狱攻击方法，可以绕过模型的安全防护，获取CBRN相关的信息。Anthropic迅速响应，利用这一发现改进了其安全措施，并发布了相应的安全补丁。这一案例充分说明了漏洞赏金计划在提高模型安全性方面的重要作用。
未来展望：迈向更安全的AI时代
Anthropic启动ASL-3标准，标志着AI安全领域进入了一个新的阶段。随着AI技术的不断发展，我们需要更加重视AI安全问题，采取更加有效的安全措施，以确保AI技术能够为人类带来福祉，而不是潜在的风险。
Anthropic的这一举措，为整个AI行业树立了一个榜样。我们期待更多的AI公司能够加入到AI安全的研究和实践中，共同构建一个更加安全的AI生态系统。
从ASL-3看AI安全治理的未来趋势
Anthropic公司启动ASL-3标准，不仅仅是技术层面的升级，更反映了AI安全治理的未来趋势：
- 风险前置，预防为主：传统的安全策略往往是在风险发生后才进行响应，而ASL-3则强调风险前置，通过预防性措施，降低风险发生的概率。这种预防为主的策略，将成为未来AI安全治理的重要方向。
- 多层防御，纵深安全：ASL-3采用了多层防御体系，包括提高系统越狱难度、检测越狱行为和迭代改进防御等多个层面。这种纵深安全的设计，可以有效地应对各种复杂的攻击，提高整体的安全性。
- 持续改进，动态适应：AI技术和攻击手段都在不断发展，因此，AI安全治理也需要不断改进和动态适应。ASL-3强调持续改进和迭代更新，以应对不断变化的安全威胁。
- 开放合作，共同治理：AI安全问题涉及到整个社会，需要各方共同参与和治理。Anthropic通过漏洞赏金计划和威胁情报合作等方式，积极开展开放合作，共同应对AI安全挑战。
总而言之，Anthropic公司启动ASL-3标准，为AI安全治理提供了一个有益的探索和实践。我们相信，在各方的共同努力下，我们一定能够构建一个更加安全的AI生态系统，让人工智能更好地服务于人类社会。
