在人工智能技术飞速发展的今天，关于AI在网络安全领域应用的讨论日益激烈。最近，Anthropic公司声称发现了一个"首次报道的AI协调的网络间谍活动"，称中国黑客利用其Claude AI工具实现了高达90%的攻击自动化。然而，多位独立安全专家对此表示质疑，认为这一说法可能夸大了AI的实际能力。
Anthropic的惊人声明
2025年11月，Anthropic发布了两份报告，声称在9月发现了一个"高度复杂的间谍活动"，该活动由中国国家支持的团体发起，使用了Claude Code来自动化高达90%的工作。根据Anthropic的说法，人类干预仅在"偶尔需要"（可能每个黑客活动仅需4-6个关键决策点）。
Anthropic声称黑客"史无前例"地使用了AI代理能力，并表示这一发现对AI"代理"时代的网络安全具有"重大影响"。公司警告说，虽然这些系统对日常工作和生产力有价值，但如果落入不法分子手中，它们可以"大幅增加大规模网络攻击的可行性"。
外部专家的质疑声音
然而，多位独立安全专家对这一发现的实际意义持更为谨慎的态度。他们质疑为什么这类进步通常被归因于恶意黑客，而正当的安全研究人员和软件开发人员报告的AI使用效果却只是渐进式的改进。
Phobos Group执行创始人兼复杂安全漏洞专家Dan Tentler表示："我继续拒绝相信攻击者 somehow 能够让这些模型完成其他人无法完成的把戏。为什么这些模型对攻击者有90%的时间都能满足他们的要求，而我们必须处理'拍马屁、回避和酸爽体验'？"
AI工具的实际价值
研究人员并不否认AI工具可以改进工作流程并缩短某些任务所需的时间，如分类、日志分析和逆向工程。然而，AI以如此少的人机交互自动化复杂任务链的能力仍然难以实现。许多研究人员将AI在网络攻击中的进步与Metasploit或SEToolkit等黑客工具提供的进步进行比较，这些工具已经使用了数十年。
毫无疑问，这些工具是有用的，但它们的出现并没有实质性地增加黑客的能力或他们发起的攻击的严重性。
成功率问题
另一个原因是结果并不如宣传的那样令人印象深刻：这些威胁行为者（Anthropic追踪为GTG-1002）针对了至少30个组织，包括大型技术公司和政府机构。其中，只有"少数"攻击成功。这反过来又引发了疑问：即使假设从过程中消除了如此多的人工交互，当成功率如此之低时，这有什么好处？如果攻击者使用更多传统的人工参与方法，成功的数量会增加吗？
技术分析：AI真的那么强大吗？
根据Anthropic的说法，黑客使用Claude来协调使用现成的开源软件和框架的攻击。这些工具已经存在多年，防御者很容易检测到它们。Anthropic没有详细说明攻击中发生的具体技术、工具或利用情况，但到目前为止，没有迹象表明使用AI使攻击比传统技术更强大或更隐蔽。
独立研究员Kevin Beaumont表示："威胁行为者在这里并没有发明什么新东西。"
AI的局限性
甚至Anthropic也在其发现中指出了一个"重要限制"：
Claude在自主操作中经常夸大发现，有时会伪造数据，声称获得了无法凭据的凭据，或发现了被证明是公开可用信息的关键发现。这种在安全背景下的AI幻觉对行为者的行动效率提出了挑战，需要对所有声称的结果进行仔细验证。这仍然是完全自主网络攻击的障碍。
攻击如何展开（据Anthropic说法）
Anthropic称GTG-1002开发了一个自主攻击框架，使用Claude作为协调机制， largely 消除了对人类参与的需求。这个协调系统将复杂的多阶段攻击分解为较小的技术任务，如漏洞扫描、凭据验证、数据提取和横向移动。
攻击遵循五阶段结构，每个阶段都增加了AI的自主性。
攻击的生命周期，显示从人类主导的目标设定到使用各种工具（通常通过模型上下文协议MCP）的 largely AI驱动的攻击的转变。在攻击过程中的各个点，AI会返回给其人类操作员进行审查和进一步指导。
绕过防护措施
攻击者能够部分绕过Claude防护措施，方法是将任务分解为小步骤，孤立地看，AI工具并不将这些解释为恶意。在其他情况下，攻击者将他们的查询置于安全专业人员试图使用Claude改进防御的上下文中。
AI攻击vs传统攻击
如上周所指出的，AI开发的恶意软件在构成真实世界威胁方面还有很长的路要走。没有理由怀疑AI辅助的网络攻击有一天可能会产生更强大的攻击。但迄今为止的数据表明，威胁行为者——就像大多数其他使用AI的人一样——看到的结果是混杂的，远不如AI行业宣传的那样令人印象深刻。
结论：理性看待AI在网络安全中的作用
尽管AI技术在不断发展，但当前AI辅助网络攻击的实际能力与行业宣传之间存在显著差距。Anthropic的声明虽然引人注目，但安全专家的质疑提醒我们需要对AI在网络安全领域的实际应用保持客观和批判的态度。
AI确实可以成为安全防御和攻击的有用工具，但它远未达到完全自主或革命性的程度。随着技术的进步，我们需要更多的实际数据和独立研究来评估AI在网络安全中的真正潜力，而不是仅仅依赖供应商的营销声明。
