在人工智能（AI）领域，安全防护等级的提升已成为一个不容忽视的重要议题。Anthropic公司于2025年5月22日宣布，正式启动AI安全等级3（ASL-3）的部署和安全标准，并将其应用于最新的Claude Opus 4模型。这一举措标志着AI安全防护进入了一个新的阶段，旨在应对日益增长的潜在风险，尤其是在化学、生物、放射性和核武器（CBRN）等敏感领域。
背景：责任扩展策略的演进
Anthropic的责任扩展策略（RSP）是其AI安全理念的核心。该策略强调，随着AI模型能力的增强，必须采取相应增强的部署和安全措施。具体而言，RSP关注两个关键方面：部署措施和安全控制。
部署措施主要针对特定类型的滥用行为，特别是那些可能导致大规模杀伤性武器攻击的CBRN相关风险。Anthropic致力于降低模型被用于此类恶意目的的可能性。
安全控制则侧重于保护模型权重，这是AI智能和能力的核心。防止模型权重被盗是确保AI安全的关键。
Anthropic的RSP为模型设定了能力阈值。一旦模型达到这些阈值，或者无法确定其能力远低于这些阈值，就必须实施更高等级的AI安全标准。在此之前，Anthropic的所有模型都在AI安全等级2（ASL-2）的标准下运行。ASL-2的部署措施包括训练模型拒绝危险的CBRN相关请求，安全措施则包括防御机会主义的权重盗窃尝试。ASL-3标准则要求更高水平的防御，以应对来自复杂非国家行为者的威胁。
启动ASL-3的理由
尽管尚未完全确定Claude Opus 4的能力是否真正需要ASL-3标准的保护，Anthropic仍决定主动实施这些保护措施。这一决策基于对AI技术快速发展的预判以及对潜在风险的谨慎态度。Anthropic认识到，随着AI模型在CBRN相关知识和能力方面的不断提升，完全排除ASL-3风险变得越来越困难。因此，主动启用更高安全标准，可以在简化模型发布流程的同时，通过迭代改进防御措施，降低对用户的潜在影响。
这种方法也符合RSP的精神，即允许在必要时采取更高级别的安全标准。Anthropic将继续评估Claude Opus 4的CBRN能力，并可能在确认其未超过相关能力阈值后，移除或调整ASL-3保护措施。
全面的部署措施
ASL-3的部署措施主要集中于防止模型协助CBRN武器相关的任务，特别是那些可能增强现有能力的端到端工作流程。这包括限制通用越狱攻击，即那些允许攻击者绕过安全措施并持续提取CBRN相关信息的攻击。
Anthropic采取了一种三管齐下的方法：
- 提高系统越狱难度：通过实施宪法分类器，实时监控模型输入和输出，并阻止有害的CBRN信息。
- 检测越狱行为：建立更广泛的监控系统，包括漏洞赏金计划和威胁情报合作，以快速识别和响应潜在的通用越狱攻击。
- 迭代改进防御：通过生成合成越狱数据并训练新的分类器，快速修复已发现的越狱漏洞。
这些措施需要不断改进，以提高其有效性并减少对合法查询的潜在影响。然而，它们代表了在防御AI能力被用于灾难性滥用方面的一大进步。
案例分析：宪法分类器的应用
宪法分类器是ASL-3部署措施的核心组成部分。它通过实时分析模型接收到的提示和生成的回复，判断其中是否包含有害的CBRN相关信息。如果检测到潜在的风险，分类器会立即介入，阻止信息的进一步传播。这种方法类似于在网络安全中使用的入侵检测系统，但其独特之处在于它能够理解和解释自然语言，从而更准确地识别潜在的威胁。
为了训练宪法分类器，Anthropic使用了大量的合成数据，这些数据模拟了各种有害和无害的CBRN相关场景。通过这种方式，分类器能够学习区分不同类型的请求，并对潜在的威胁做出快速反应。此外，Anthropic还建立了一个漏洞赏金计划，鼓励外部安全专家测试其系统的安全性，并报告任何发现的漏洞。这种众包模式有助于及时发现和修复潜在的安全隐患。
坚不可摧的安全防线
Anthropic的安全控制措施主要集中于保护模型权重，防止未经授权的访问。其方法包括100多种不同的安全控制，结合了预防控制和检测机制，主要针对来自复杂非国家行为者的威胁。
这些控制措施包括：
- 模型权重访问的双重授权
- 增强的变更管理协议
- 通过二进制允许列表实现的端点软件控制
其中一项特别重要的控制措施是出口带宽控制。通过限制流出安全计算环境的数据流量，可以利用模型权重的大小来创建安全优势。当检测到潜在的模型权重泄露时，安全系统可以阻止可疑流量。
数据佐证：出口带宽控制的有效性
模型权重通常非常庞大，这使得通过网络传输它们变得困难。出口带宽控制通过限制数据传输速率，进一步增加了泄露模型权重的难度。例如，如果一个模型的权重大小为100GB，而出口带宽被限制在每秒10MB，那么即使攻击者能够成功访问模型权重，他们也需要花费数小时甚至数天才能将其完全复制出去。在这段时间内，安全系统有足够的时间检测到异常活动并采取相应的措施。
此外，出口带宽控制还有助于理解和管理数据流出内部系统的方式，从而提高检测和响应能力。通过监控网络流量，安全团队可以及时发现潜在的安全漏洞，并采取相应的措施进行修复。这种主动防御的方法有助于降低安全风险，并确保AI模型的安全性。
持续改进与合作
Anthropic强调，部署和安全措施的选择是一个不断发展的过程。该公司将继续进行反思、迭代和改进。通过ASL-3标准的实际操作经验，Anthropic有望发现新的问题和机遇。
Anthropic还致力于与AI行业、用户以及政府和民间社会的合作伙伴合作，共同改进模型保护方法。该公司希望其详细报告能够帮助其他AI公司实施类似的安全措施，并共同应对日益复杂的人工智能安全挑战。
行业洞察：AI安全防护的未来趋势
随着人工智能技术的不断发展，AI安全防护的重要性日益凸显。未来的AI安全防护将呈现以下几个趋势：
多层次防御：单一的安全措施难以应对复杂的攻击。未来的AI安全防护将采用多层次防御体系，从硬件、软件、数据和算法等多个层面进行保护。
主动安全：传统的安全防护方法往往是被动的，即在攻击发生后才采取措施。未来的AI安全防护将更加注重主动安全，通过预测潜在的威胁并采取相应的预防措施，降低安全风险。
智能化安全：利用人工智能技术来提高安全防护的效率和准确性。例如，可以使用机器学习算法来检测异常行为，并自动调整安全策略。
合作与共享：AI安全防护是一个全球性的挑战，需要各方共同努力。未来的AI安全防护将更加注重合作与共享，通过共享威胁情报和安全技术，共同应对安全风险。
Anthropic公司启动AI安全等级3（ASL-3）的部署和安全标准，并将其应用于最新的Claude Opus 4模型，为AI安全防护树立了一个新的标杆。随着AI技术的不断发展，我们有理由相信，未来的AI系统将更加安全可靠，为人类社会带来更大的福祉。
