Anthropic公司近日为其AI助手Claude推出了全新的文件创建功能，允许用户直接在对话中生成Excel表格、PowerPoint演示文稿等文档。这一看似便捷的功能却伴随着不容忽视的安全风险，引发了业界对AI安全责任的广泛讨论。本文将深入分析这一功能的安全隐患、Anthropic的应对措施以及行业专家的批评意见，探讨在AI快速发展的背景下，如何在功能创新与安全保障之间取得平衡。
功能概述与安全风险
Anthropic于2025年9月7日宣布推出"升级版文件创建和分析功能"，这是其AI助手Claude的一项重大更新。该功能目前面向Max、Team和Enterprise计划用户开放，Pro用户计划在"未来几周"内获得访问权限。这一功能本质上类似于ChatGPT的代码解释器，也是Anthropic原有"分析工具"的升级版。
然而，Anthropic在其支持文档中明确警告，这一功能"可能使您的数据面临风险"。问题的根源在于该功能赋予了Claude访问沙盒计算环境的权限，使其能够下载包、运行代码并创建文件。正如Anthropic在博客公告中所言："此功能赋予Claude互联网访问权限以创建和分析文件，这可能会使您的数据面临风险。使用此功能时请密切监控聊天内容。"
提示注入攻击的潜在威胁
根据Anthropic的文档，恶意行为者可能利用此功能"通过外部文件或网站悄悄添加指令"，操纵Claude"从连接到claude.ai的知识源读取敏感数据"，并"使用沙盒环境向外部网络请求泄露数据"。这本质上是一种提示注入攻击——隐藏在看似无害内容中的指令可以操纵AI模型的行为。
这类攻击代表了AI语言模型一个持续存在且尚未解决的安全漏洞。由于数据和指令如何处理它们都以相同的"上下文窗口"格式传递给模型，AI难以区分合法指令和隐藏在用户提供内容中的恶意命令。安全研究人员早在2022年就首次记录了此类攻击，而这一问题至今仍未得到有效解决。
Anthropic的安全应对措施
面对这些理论上的安全漏洞，Anthropic并非完全忽视问题，而是实施了一系列安全措施来缓解风险。
已实施的安全措施
提示注入检测器：Anthropic部署了一个分类器，试图检测提示注入并在发现时停止执行。
对话共享限制：对于Pro和Max用户，Anthropic禁用了使用文件创建功能的对话的公共共享功能。
沙盒隔离：对于企业用户，公司实现了沙盒隔离，确保用户环境永远不会被共享。
任务时间限制：Anthropic限制了任务持续时间和容器运行时间，以避免恶意活动的循环。
域名访问白名单：Anthropic为所有用户提供了一个Claude可以访问的域名白名单，包括api.anthropic.com、github.com、registry.npmjs.org和pypi.org。
管理员控制：Team和Enterprise管理员可以控制是否为其组织启用此功能。
Anthropic在文档中表示，公司拥有"持续进行此功能持续安全测试和红队演练的流程"，并鼓励组织在决定是否启用此功能时"根据其特定安全要求评估这些保护措施"。
Anthropic的文件创建功能存在数据泄露风险，安全专家警告用户需密切监控AI行为
专家批评与用户责任转移
尽管Anthropic实施了多项安全措施，但独立AI研究员Simon Willison在今日的博客评论中指出，Anthropic建议用户"使用此功能时密切监控Claude"的做法相当于"不公平地将问题外包给Anthropic的用户"。
Willison表示，他计划在使用此功能处理任何非常不希望泄露给第三方的数据时保持谨慎，"即使恶意指令有可能悄悄混入的可能性很小"。这一批评反映了业界对AI公司将安全责任转嫁给用户的普遍担忧。
红队演练的局限性
Anthropic的一位代表告诉Ars Technica，虽然公司在发布前通过威胁建模和安全测试确定了这些理论漏洞，但其红队演练尚未证明实际数据泄露的发生。这表明当前的安全措施可能仍不足以应对所有潜在威胁。
Willison本人是提示注入漏洞的广泛记录者，甚至创造了这一术语。他在最近的博客中描述当前AI安全状况为"可怕"，指出这些提示注入漏洞在"我们首次开始讨论它们近三年后"仍然普遍存在。
行业背景与竞争压力
这一安全漏洞并非孤立事件。我们上月报道了Anthropic的Claude for Chrome也存在类似的潜在提示注入漏洞，该功能于上月作为研究预览版推出。
对于考虑使用Claude处理敏感业务文档的企业客户而言，Anthropic选择在带有已记录漏洞的情况下发布功能，表明在AI军备竞赛中，竞争压力可能正在压倒安全考虑。
Willison在2022年9月的一项先知般的警告中写道："在拥有强大解决方案之前，有些系统可能根本不应该构建。"而他最近的评估则是："看起来我们还是构建了！"
AI功能的快速迭代带来了安全挑战，专家质疑"先发布后修复"策略是否明智
企业用户的考量
对于企业用户而言，这一案例提出了重要问题：如何在利用AI功能提高生产力的同时确保数据安全？
安全评估的必要性
Anthropic明确表示，组织应"在决定是否启用此功能时，根据其特定安全要求评估这些保护措施"。这意味着企业需要：
了解数据敏感性：评估哪些数据可以安全地通过此功能处理，哪些需要更严格保护。
实施额外控制：考虑实施额外的安全层，如数据加密、访问控制和监控机制。
员工培训：培训员工识别潜在的安全威胁和适当的响应程序。
定期审核：定期审核使用情况和安全措施的有效性。
替代方案考虑
对于特别敏感的操作，企业可能需要考虑替代方案，如：
- 使用传统的文档创建工具
- 限制Claude功能的权限范围
- 在隔离环境中使用AI功能
未来展望与行业反思
这一事件引发了关于AI开发和安全责任分配的更广泛讨论。随着AI功能变得越来越强大和复杂，安全挑战也将随之增加。
安全优先的开发模式
理想的AI开发模式应该将安全置于功能开发的中心，而不是事后考虑。这可能包括：
- 早期安全设计：在功能规划阶段就考虑安全因素。
- 透明沟通：向用户明确传达功能的安全限制和风险。
- 持续监控：建立持续的安全监控和响应机制。
- 负责任发布：在安全问题解决前推迟功能发布。
行业标准的建立
随着AI技术的普及，建立行业安全标准和最佳实践变得至关重要。这可能包括：
- 认证机制：为AI功能建立安全认证标准。
- 共享威胁情报：在行业内部共享安全威胁和防御信息。
- 监管框架：制定适当的监管框架，平衡创新与安全。
结论
Anthropic的Claude文件创建功能展示了AI技术发展的双面性：一方面提供了显著的生产力提升，另一方面带来了不容忽视的安全风险。虽然公司已实施多项安全措施，但这些措施仍无法完全消除风险，而将安全责任转嫁给用户的做法也引发了专家的批评。
这一案例提醒我们，在AI快速发展的背景下，安全不应是事后考虑，而应是开发过程的核心组成部分。对于企业用户而言，这意味着需要仔细评估AI功能的安全风险，并采取适当措施保护敏感数据。对于整个行业而言，这反映了需要建立更强大的安全标准和开发实践，以确保AI技术的负责任发展。
随着AI功能的持续演进，如何在创新与安全之间取得平衡，将是所有利益相关者需要共同面对的挑战。
