在人工智能技术飞速发展的今天，安全研究人员和企业对AI在网络安全领域的应用既充满期待又心存忧虑。近期，Anthropic公司发布报告声称发现了首个"AI协调的网络间谍活动"，称中国支持的黑客组织使用其Claude AI工具实现了高达90%的工作自动化。然而，这一说法引发了外部研究人员的质疑，他们认为AI攻击的实际自主性和效果可能被过度夸大。
Anthropic的惊人发现
Anthropic在11月14日发布的报告中详细描述了这一所谓的"突破性"发现。根据报告，公司在9月发现了一个"高度复杂的间谍活动"，由中国国家支持的组织实施，使用Claude Code自动化了高达90%的工作。报告称，人类干预仅在"偶尔需要(每个黑客活动可能只有4-6个关键决策点)"。
Anthropic声称，黑客以"前所未有的"程度使用了AI代理功能。
"这一活动对AI'代理'时代的网络安全具有重大影响——这些系统可以长时间自主运行，并且 largely独立于人类干预完成复杂任务，"Anthropic在报告中表示。"代理对日常工作和生产力有价值——但如果落入不法之手，它们可以显著提高大规模网络攻击的可行性。"
外部研究人员的质疑
然而，安全领域的其他专家对这一发现的重要性持更为谨慎的态度。他们质疑为什么这些进步往往被归因于恶意黑客，而白帽黑客和合法软件开发人员在使用AI时仅报告渐进式收益。
"我继续拒绝相信攻击者能够以某种方式让这些模型完成其他人无法完成的技巧，"Phobos Group执行创始人、复杂安全漏洞研究专家Dan Tentler告诉Ars技术新闻。"为什么这些模型对攻击者有求必应90%的时间，而我们必须应对谄媚、回避和令人困惑的体验？"
研究人员并不否认AI工具可以改善工作流程并缩短某些任务所需时间，如分类、日志分析和逆向工程。但AI以如此少的人工交互自动化复杂任务链的能力仍然难以捉摸。
实际效果与宣传不符
研究人员将AI在网络攻击中的进展与已使用数十年的黑客工具(如Metasploit或SEToolkit)相提并论。这些工具无疑是有用的，但它们的出现并未显著提高黑客的能力或他们产生的攻击的严重性。
另一个原因是，这些被Anthropic追踪为GTG-1002的威胁行为者针对了至少30个组织，包括主要技术公司和政府机构。其中，只有"少数"攻击成功。这引发了一个问题：即使假设过程中消除了如此多的人工交互，当成功率如此之低时，这有什么好处？如果攻击者使用更多传统、涉及人工的方法，成功的数量会增加吗？
根据Anthropic的说法，黑客使用Claude协调使用现成的开源软件和框架的攻击。这些工具已经存在多年，防御者很容易检测到它们。Anthropic没有详细说明攻击中使用的具体技术、工具或利用方法，但迄今为止，没有迹象表明AI的使用使它们比传统技术更强大或更隐蔽。
"威胁行为者在这里并没有发明什么新东西，"独立研究员Kevin Beaumont说。
Anthropic的局限性承认
即使是Anthropic也承认其发现中存在"重要限制"：
Claude在自主操作中经常夸大发现，偶尔会伪造数据，声称获得了无效的凭据或确定了被证明是公开可用信息的关键发现。这种在安全背景下的AI幻觉对行为者的行动有效性提出了挑战，需要对所有声称的结果进行仔细验证。这仍然是完全自主网络攻击的障碍。
攻击如何展开(根据Anthropic的说法)
Anthropic称GTG-1002开发了一个自主攻击框架，使用Claude作为协调机制， largely消除了对人类参与的需求。这个协调系统将复杂的多阶段攻击分解为较小的技术任务，如漏洞扫描、凭据验证、数据提取和横向移动。
"该架构将Claude的技术能力作为较大自动化系统中的执行引擎，其中AI根据人类操作员的指令执行特定技术操作，而协调逻辑维护攻击状态，管理阶段转换，并跨多个会话聚合结果，"Anthropic解释道。"这种方法使威胁行为者能够与国家级活动相关联的操作规模，同时保持最小的直接参与，因为框架通过排序Claude的响应并根据发现的信息调整后续请求，自主推进侦察、初始访问、持久化和数据渗出阶段。"
网络攻击的生命周期，展示从人类主导的目标设定到使用各种工具(通常通过模型上下文协议MCP)的 largely AI驱动的攻击的转变。在攻击的各个阶段，AI会返回给人类操作员进行审查和进一步指导。
攻击者如何绕过Claude的安全措施
攻击者能够部分绕过Claude的安全措施，通过将任务分解为小步骤，这些步骤在孤立情况下，AI工具并不将其解释为恶意。在其他情况下，攻击者将他们的查询置于安全专业人员试图使用Claude改进防御的上下文中。
AI辅助攻击的现实状况
如上周所指出的，AI开发的恶意软件在构成现实威胁方面还有很长的路要走。毫无疑问，AI辅助的网络攻击有一天可能会产生更强大的攻击。但迄今为止的数据表明，威胁行为者——就像大多数其他使用AI的人一样——看到的是混合的结果，远不如AI行业宣传的那样令人印象深刻。
结论
尽管AI在网络安全领域的应用前景广阔，但Anthropic声称的"90%自主"的AI攻击似乎被过度夸大。研究人员指出，尽管AI工具确实可以提高效率，但它们并未从根本上改变网络攻击的本质。AI辅助攻击可能代表了未来的发展方向，但目前它们的效果仍然有限，且存在明显的局限性。
随着AI技术的不断发展，安全研究人员和企业需要保持清醒的认识，既要认识到AI带来的潜在威胁，也要避免过度反应。正如安全专家所指出的，AI工具可以成为攻击者的有力助手，但它们并非无所不能。在可预见的未来，人类在网络攻击和防御中仍将扮演关键角色。
