人工智能技术正以惊人的速度迭代，其在各个领域的应用深度和广度不断拓展。随之而来的，是围绕AI伦理、安全与社会责任的深刻讨论。 Anthropic作为领先的AI研究机构，深谙此道，并致力于通过健全的治理框架来引导AI的健康发展。近期，Anthropic对其《使用政策》进行了全面修订，旨在更好地适应AI技术日新月异的变化，平衡创新潜力与潜在风险，并回应用户与监管机构的反馈。政策的调整体现了Anthropic在快速变化的AI生态中，持续优化其责任框架的决心与实践。
强化网络安全与规范代理式AI应用
在过去一年中，代理式（Agentic）AI能力取得了突破性进展，显著提升了AI系统自主规划和执行复杂任务的能力。Anthropic自身也推出了如Claude Code和Computer Use等工具，其模型更是驱动着全球诸多先进的编码代理。然而，这种强大的能力也带来了新的、不容忽视的风险，包括潜在的大规模滥用、恶意软件的生成以及网络攻击的自动化。Anthropic在2025年3月发布的《检测与打击Claude恶意使用：2025年3月》威胁情报报告中，已经详细阐述了这些风险。
为了有效应对这些新兴挑战，本次政策更新特别新增了一个章节，明确禁止利用Anthropic产品进行任何形式的恶意计算机、网络及基础设施破坏活动。这意味着，任何旨在渗透、损害或利用信息系统漏洞的活动都将被严格禁止。同时，Anthropic依然大力支持那些有助于强化网络安全的合法用例，例如在获得系统所有者明确同意的情况下，利用AI工具进行漏洞发现与安全审计。这种区分旨在鼓励负责任的安全研究，并遏制恶意行为。此外，Anthropic还在其帮助中心发布了关于如何根据使用政策应用代理式AI的补充指南，提供了具体的禁止活动示例，以进一步明确边界。
重新审视对政治内容的广泛限制
Anthropic此前的《使用政策》对所有形式的游说或竞选内容均设有广泛的禁令。此举是基于对AI生成内容可能影响民主进程的未知风险的审慎考量，并且Anthropic始终将这些风险视为严肃议题。然而，在实际应用中，用户反馈指出这种“一刀切”的做法也限制了Claude在政策研究、公民教育和政治写作等合法领域的应用。
为解决这一问题，本次政策更新对政治内容的限制进行了精细化调整。新的政策不再全面禁止，而是特别针对那些具有欺骗性、扰乱民主进程或涉及选民与竞选目标定位的用例。这意味着，AI模型可用于深入分析政策提案、撰写客观的政治评论、支持公民参与的教育项目等，只要这些活动是透明、非误导性且不具侵入性的。这种平衡策略旨在维护健康的政治讨论与研究空间，同时坚决打击利用AI进行虚假宣传、操纵舆论或侵犯个人隐私的行为，从而促进一个更加公正和透明的民主环境。
明确执法机构使用AI的语言表述
此前，Anthropic的《使用政策》中关于执法机构使用的语言包含了各种针对后台工具和分析应用的例外情况，这在某些情况下造成了理解上的困难，使得哪些用例被允许，哪些被禁止变得模糊不清。
为了提高政策的清晰度和可操作性，本次更新对相关语言进行了更直接、更明了的修订。需要强调的是，此次修订并非改变了允许或禁止的范围，而是以更清晰的方式传达了Anthropic现有的立场。政策依然严格限制在监控、跟踪、侧写和生物识别监测等领域的使用，因为这些活动可能侵犯公民隐私和自由。与此同时，政策继续支持那些此前已被允许的、适当的后台管理和分析用例，例如数据整理、报告生成等，只要这些应用不涉及上述高风险领域。这种明确性有助于执法机构更好地理解和遵守政策，确保AI技术在公共安全领域的应用是负责任且合乎伦理的。
规范高风险面向消费者应用的要求
Anthropic的“高风险用例要求”适用于那些可能对公共福祉和社会公平产生重大影响的应用场景，特别是在法律、金融和就业等领域。这些用例由于其敏感性和潜在后果，需要额外的保障措施，例如“人工干预”（human-in-the-loop）监督机制和明确的AI信息披露。
随着Claude在企业级用例中的广泛应用，本次更新进一步明确了这些要求仅适用于模型的输出直接面向消费者的情况。这意味着，当AI的建议、分析或决策直接影响到普通消费者（例如提供法律咨询、金融投资建议或招聘筛选结果）时，必须实施更严格的保障措施。相比之下，在企业对企业（B2B）的互动中，如果AI输出主要服务于企业内部决策或由专业人士进行二次验证，则可能不适用同样严苛的直接消费者披露要求。这一区分旨在精准地将合规负担施加于真正需要保护最终用户的场景，避免过度限制企业内部的创新和效率提升。
展望：持续演进的AI治理框架
Anthropic将《使用政策》视为一份动态文件，其内容将随着AI风险的持续演变而不断调整和完善。这种“活的文档”理念，反映了AI技术发展的快速性及其对社会影响的复杂性，要求治理框架必须具备高度的适应性和前瞻性。Anthropic承诺将持续在内部进行政策评估，并积极与外部政策制定者、主题专家和公民社会组织保持开放对话，共同探讨和完善AI的伦理与安全标准。这种持续协作的模式，将确保Anthropic的政策能够不断吸纳最新的研究成果和最佳实践，从而更好地指导AI技术的负责任开发与部署，为构建一个安全、公平且有益的智能社会贡献力量。
