在人工智能领域，Anthropic 公司近日宣布对其 Claude Opus 4 模型启动 AI 安全等级 3 (ASL-3) 的部署和安全标准，这一举措标志着 AI 安全防护进入了一个新的阶段。本文将深入探讨 ASL-3 标准的具体内容、实施原因以及对整个 AI 行业的影响。
ASL-3：更高级别的安全防护
Anthropic 公司的责任扩展策略 (RSP) 提出了能力阈值的概念，当 AI 模型达到这些阈值时，必须实施更高级别的 AI 安全等级标准。此前，Anthropic 的所有模型均在 AI 安全等级 2 (ASL-2) 的保护下运行。ASL-2 的部署措施包括训练模型拒绝危险的 CBRN（化学、生物、放射性和核武器）相关请求，安全措施则包括防御机会主义的权重窃取尝试。而 ASL-3 标准则要求针对部署和安全威胁提供更高级别的防御，以应对复杂的非国家行为者的威胁。
ASL-3 的核心在于其双重防护机制：
- 部署措施：旨在限制模型被滥用于开发或获取 CBRN 武器的风险。
- 安全控制：旨在防止模型权重的窃取，因为模型权重是 AI 智能和能力的核心。
启动 ASL-3 的原因
Anthropic 承认，尚未完全确定 Claude Opus 4 的能力是否真正需要 ASL-3 标准的保护。然而，鉴于 CBRN 相关知识和能力的不断提升，Anthropic 认为无法像对待之前的模型那样，完全排除 Claude Opus 4 的 ASL-3 风险。因此，Anthropic 决定采取预防措施，主动启动 ASL-3 标准。
这种做法与 RSP 的原则一致，即允许公司在安全方面采取更谨慎的态度，并在高于所需标准的水平下部署模型。通过提前开发、测试和完善这些保护措施，Anthropic 能够更好地应对潜在的风险。
ASL-3 的具体措施
ASL-3 的部署措施主要集中于防止模型协助执行 CBRN 武器相关的任务，特别是那些能够推动 CBRN 工作流程的端到端任务。这些措施包括限制通用越狱攻击，即攻击者绕过安全防护措施并持续提取 CBRN 相关信息的系统性攻击。
为了实现这一目标，Anthropic 采取了三管齐下的方法：
- 提高系统越狱难度：通过实施宪法分类器，实时监控模型输入和输出，并阻止有害的 CBRN 信息。
- 检测越狱行为：建立更广泛的监控系统，包括漏洞赏金计划和威胁情报合作伙伴关系，以快速识别和响应潜在的通用越狱攻击。
- 迭代改进防御：通过生成类似于已发现的合成越狱攻击，并使用这些数据来训练新的分类器，从而快速修复越狱漏洞。
在安全方面，ASL-3 的控制措施主要集中于保护模型权重。这些措施包括 100 多种不同的安全控制，将预防性控制与检测机制相结合，主要针对来自复杂非国家行为者的威胁。其中一项独特的控制措施是出口带宽控制，它限制了数据流出安全计算环境的速度，从而利用模型权重的大小来创建安全优势。
宪法分类器：AI 安全的新防线
宪法分类器是 Anthropic 在 ASL-3 中引入的一项重要创新。它通过实时监控模型输入和输出，并根据预定义的宪法原则来判断内容是否安全。如果分类器检测到有害的 CBRN 信息，它将立即阻止该信息的传播。
宪法分类器的优势在于其能够处理复杂的、上下文相关的安全问题。传统的安全过滤方法往往依赖于简单的关键词匹配，容易被绕过。而宪法分类器则能够理解内容的含义，并根据宪法原则进行判断，从而更有效地防止有害信息的传播。
出口带宽控制：物理层面的安全保障
出口带宽控制是 ASL-3 中另一项重要的安全措施。它通过限制数据流出安全计算环境的速度，来防止模型权重的窃取。模型权重通常非常大，因此限制出口带宽可以有效地阻止攻击者在被发现之前窃取完整的模型权重。
出口带宽控制的实施需要对数据流动的各个环节进行深入的了解和管理。Anthropic 通过实施出口带宽控制，不仅提高了安全性，还提升了其检测和响应能力。
ASL-3 的局限性与未来发展
Anthropic 承认，ASL-3 并非万无一失。通用越狱攻击和复杂的内部威胁仍然是潜在的风险。因此，Anthropic 将继续改进其安全控制措施，并与 AI 行业的其他公司、政府部门和民间组织合作，共同应对 AI 安全挑战。
ASL-3 的实施也可能会对 legitimate 查询产生影响，即产生误报。为了解决这个问题，Anthropic 建立了访问控制系统，允许对具有双重用途的科学和技术应用的用户进行审查，并有针对性地免除某些分类器操作。
AI 安全等级：分级防护体系
Anthropic 的 AI 安全等级 (ASL) 是一种分级防护体系，旨在根据 AI 模型的风险级别提供不同强度的安全保护。ASL-2 提供基本的安全保护，例如训练模型拒绝危险请求和防御机会主义的权重窃取尝试。ASL-3 则提供更高级别的保护，例如防止通用越狱攻击和限制出口带宽。
Anthropic 的 RSP 规定，当 AI 模型达到特定的能力阈值时，必须实施相应级别的 ASL 标准。这种分级防护体系有助于确保 AI 模型在安全可控的范围内运行。
应对 CBRN 威胁：AI 的双刃剑
CBRN 武器是对人类的重大威胁。AI 模型可以被用于加速 CBRN 武器的开发和获取，但也同样可以被用于防御 CBRN 威胁。Anthropic 的 ASL-3 标准旨在限制 AI 模型被滥用于 CBRN 武器相关的任务，从而降低 CBRN 威胁。
然而，CBRN 威胁形势不断演变，新的威胁不断涌现。因此，Anthropic 将继续改进其安全控制措施，并与 CBRN 领域的专家合作，共同应对 CBRN 威胁。
AI 安全：行业共同的责任
AI 安全是整个 AI 行业共同的责任。Anthropic 希望通过分享其在 ASL-3 方面的经验和知识，帮助其他 AI 公司实施类似的安全保护措施，共同应对 AI 安全挑战。
AI 技术的快速发展给人类带来了巨大的机遇，但也带来了潜在的风险。只有通过共同努力，才能确保 AI 技术在安全可控的范围内发展，为人类带来福祉。
结论与展望
Anthropic 公司启动 Claude Opus 4 模型的 ASL-3 标准，是 AI 安全领域的重要里程碑。它标志着 AI 安全防护进入了一个新的阶段，为应对潜在的风险提供了更高级别的保护。然而，AI 安全是一个持续发展的领域，需要不断创新和改进。Anthropic 将继续与 AI 行业的其他公司、政府部门和民间组织合作，共同应对 AI 安全挑战，确保 AI 技术在安全可控的范围内发展，为人类带来福祉。
随着 AI 技术的不断进步，我们可以预见，未来的 AI 安全标准将会更加复杂和精细。我们需要不断探索新的安全技术和方法，以应对不断演变的 AI 安全威胁。只有这样，我们才能充分利用 AI 技术的潜力，同时最大限度地降低其潜在风险。
Anthropic 的 ASL-3 标准为我们提供了一个有益的参考。它展示了如何在 AI 模型的开发和部署过程中，将安全考虑置于优先地位。通过采取积极主动的安全措施，我们可以更好地应对 AI 安全挑战，确保 AI 技术为人类带来福祉。
