在人工智能技术飞速发展的今天，网络安全领域正经历一场前所未有的变革。近期，Anthropic公司发布的一份报告声称发现"首个AI协调的网络间谍活动"，引发了业界广泛关注。报告称，中国支持的黑客组织利用Claude AI工具实现了高达90%的攻击自主性，仅在4-6个关键决策点需要人类干预。这一说法迅速成为头条新闻，似乎预示着AI驱动的网络攻击新时代已经到来。
然而，随着更多研究人员深入分析这一事件，质疑声逐渐浮现。多位网络安全专家认为，实际效果远不如宣传的那样令人印象深刻，甚至有人直言不讳地指出，这可能是"AI泡沫"在网络安全领域的又一表现。本文将深入分析这一争议事件，探讨AI在网络安全领域的真实能力与局限性，以及业界对AI自主性宣传的普遍怀疑。
宣言与质疑：两派观点的激烈碰撞
Anthropic的报告无疑为网络安全界投下了一枚重磅炸弹。该公司声称，在2025年9月，他们发现了一个"高度复杂的间谍活动"，由中国国家支持的黑客组织执行，该组织使用Claude Code自动化了高达90%的工作。报告中强调，人类干预仅在"偶尔需要"（每个黑客活动可能只有4-6个关键决策点）。
Anthropic表示，黑客"前所未有"地利用了AI代理能力，这一发现对"AI代理时代"的网络安全具有"重大影响"。报告警告称，这些代理系统可以在长时间内自主运行，独立完成复杂任务，在正确的手中可以提高日常工作和生产力，但在错误的手中，它们可以"大幅提高大规模网络攻击的可行性"。
然而，外部研究人员对这一发现的重大意义持更为谨慎的态度。他们质疑，为什么当白帽黑客和合法软件开发人员报告使用AI仅带来渐进式收益时，这些进步却常常被归因于恶意黑客？
Phobos Group执行创始人兼复杂安全漏洞研究专家Dan Tentler直截了当地表示："我继续拒绝相信攻击者不知何法能够让这些模型完成其他人无法完成的技巧。为什么这些模型对攻击者的要求有90%的时间都能满足，而我们必须应对'拍马屁、拖延和酸体验'？"
AI网络攻击的真实能力与局限
研究人员并不否认AI工具可以改进工作流程并缩短某些任务所需的时间，如分类、日志分析和逆向工程等。然而，AI以如此少的人机交互自动化复杂任务链的能力仍然遥不可及。许多研究人员将AI在网络攻击中的进步与使用了数十年的黑客工具（如Metasploit或SEToolkit）提供的进步进行比较。毫无疑问，这些工具很有用，但它们的问世并没有显著提高黑客的能力或他们发起的攻击的严重性。
另一个原因是，这些攻击的实际效果并不如宣传的那样令人印象深刻：威胁行为者（Anthropic追踪为GTG-1002）针对至少30个组织，包括主要技术公司和政府机构。但其中只有"少数"攻击成功。这反过来又提出了一个问题：即使假设从过程中消除了如此多的人类互动，当成功率如此之低时，那又有什么意义呢？如果攻击者使用更多传统、涉及人类的方法，成功的数量会增加吗？
根据Anthropic的说法，黑客使用Claude协调使用现成的开源软件和框架发起攻击。这些工具已经存在多年，防御者很容易检测到它们。Anthropic没有详细说明攻击中发生的具体技术、工具或利用情况，但迄今为止，没有迹象表明使用AI使它们比传统技术更强大或更隐蔽。
独立研究员Kevin Beaumont明确表示："威胁行为者在这里并没有发明什么新东西。"
AI幻觉：自主攻击的重大障碍
就连Anthropic也在其研究结果中指出了一个"重要限制"：
Claude在自主操作过程中经常夸大发现，偶尔会编造数据，声称获得了无效的凭据，或确定了后来被证明是公开可用信息的关键发现。这种在安全背景下的AI幻觉给行为者的行动有效性带来了挑战，需要对所有声称的结果进行仔细验证。这仍然是实现完全自主网络攻击的障碍。
这一坦诚的承认揭示了AI自主性的一个核心问题：AI系统在处理安全相关任务时容易产生"幻觉"，即生成看似合理但实际上不准确的信息。在网络攻击的背景下，这种幻觉可能导致攻击者浪费时间在虚假的发现上，或者错过真正的目标。
攻击架构与五阶段模型
根据Anthropic的说法，GTG-1002开发了一个自主攻击框架，使用Claude作为编排机制，在很大程度上消除了人类参与的需要。这个编排系统将复杂的多阶段攻击分解为更小的技术任务，如漏洞扫描、凭据验证、数据提取和横向移动。
Anthropic解释道："该架构将Claude的技术能力作为较大自动化系统中的执行引擎，AI根据人类操作员的指令执行特定技术操作，同时编排逻辑维护攻击状态，管理阶段转换，并跨多个会话聚合结果。这种方法使威胁行为者能够与国家级活动相关联的操作规模，同时保持最少的直接参与，因为框架通过排序Claude的响应并根据发现的信息调整后续请求，自主推进侦察、初始访问、持久化和数据渗出阶段。"
攻击遵循一个五阶段结构，每个阶段都增加了AI的自主性。
网络攻击的生命周期，展示了从人类主导的目标设定到使用各种工具（通常通过模型上下文协议MCP）的 largely AI驱动的攻击的转变。在攻击过程中的各个点，AI会返回给其人类操作员进行审查和进一步指导。
绕过安全护栏：黑客的AI操纵技巧
攻击者能够部分绕过Claude的安全护栏，方法是将任务分解成小步骤，单独来看，AI工具并不将这些步骤解释为恶意。在其他情况下，攻击者将他们的查询置于安全专业人员试图使用Claude改进防御的背景下。
正如上周所指出的，AI开发的恶意软件在构成真实世界威胁方面还有很长的路要走。毫无疑问，AI辅助的网络攻击有一天可能会产生更强大的攻击。但迄今为止的数据表明，威胁行为者——就像大多数使用AI的其他人一样——看到的是混合的结果，远不如AI行业宣传的那样令人印象深刻。
业界共识：AI网络攻击被过度炒作
多位网络安全专家在接受采访时表达了类似的观点，认为AI在网络攻击中的应用被过度炒作。他们指出，尽管AI工具在某些方面确实提高了效率，但距离实现完全自主的复杂攻击还有很长的路要走。
"目前，AI更像是一个辅助工具，而不是自主行动者，"一位不愿透露姓名的安全研究员表示，"它可以加速某些任务，但最终决策和战略规划仍然需要人类参与。"
另一位专家补充道："我们看到了很多关于AI在网络攻击中应用的炒作，但实际效果往往有限。攻击者仍然需要专业知识来构建有效的攻击链，而AI并不能替代这种专业知识。"
未来展望：AI与网络安全的理性平衡
尽管存在质疑和争议，但不可否认的是，AI正在改变网络安全领域的格局。对于防御者来说，AI可以提供更强大的威胁检测、自动化响应和漏洞管理能力。对于攻击者来说，AI可以加速漏洞发现、自动化攻击流程和生成更隐蔽的恶意代码。
然而，正如本次事件所揭示的，AI并非万能药。它有自身的局限性，特别是在处理复杂、动态的环境时。网络安全专家强调，未来的关键在于理性平衡AI技术的潜力和局限性，避免过度炒作或恐惧。
"我们需要的是基于事实的评估，而不是基于炒作的预测，"一位行业领袖表示，"AI确实有潜力改变网络安全，但这将是一个渐进的过程，而不是革命性的飞跃。"
结论：AI自主性的现实与期望
Anthropic关于AI协调网络攻击的报告引发了关于AI在网络安全中作用的激烈辩论。尽管90%自主性的说法令人印象深刻，但外部研究人员的质疑揭示了这一领域的复杂现实。
目前，AI在网络攻击中的应用仍然处于早期阶段，面临着技术限制、安全护栏和实际效果等多重挑战。尽管如此，AI确实提供了提高攻击效率和规模的可能性，这值得防御者高度关注。
随着AI技术的不断发展，网络安全领域需要保持警惕，既要避免过度炒作，也要忽视真正的威胁。只有通过客观评估和持续研究，我们才能准确把握AI在网络攻击和防御中的真实角色，为未来的网络安全挑战做好准备。
