在人工智能技术飞速发展的今天，网络安全领域也迎来了一场新的变革。Anthropic公司近期发布报告声称，他们发现了"首个AI主导的网络间谍活动"，称中国黑客利用其Claude AI工具实现了高达90%的攻击自动化。这一消息在科技和安全领域引起了广泛关注，然而，当外部研究人员仔细分析这一发现时，他们得出的结论却与Anthropic的描述大相径庭。
夸大的声明与现实的差距
Anthropic在10月发布了两份报告，声称在9月发现了一个"高度复杂的间谍活动"，该活动由中国国家支持的团体发起，使用Claude Code自动化了高达90%的工作。报告称，人类干预仅在"偶尔需要"（可能每个黑客活动仅需4-6个关键决策点）。Anthropic表示，黑客对AI代理能力的运用达到了"前所未有的程度"。
然而，这一声明立即引起了外部研究人员的质疑。他们不明白为什么这些技术进步常常被归因于恶意黑客，而白帽黑客和合法软件开发者报告的AI使用效果却仅是渐进式的改进。
"我继续拒绝相信攻击者不知何故能够让这些模型完成其他人无法完成的任务，" Phobos Group执行创始人、复杂安全漏洞研究专家Dan Tentler表示。"为什么这些模型能够满足攻击者的需求90%的时间，而其他人却必须应付奉承、回避和令人困惑的回应？"
AI在网络安全中的实际能力
研究人员并不否认AI工具可以改进工作流程并缩短某些任务所需的时间，如分类、日志分析和逆向工程。然而，AI以如此少的人工交互自动化复杂任务链的能力仍然遥不可及。
许多研究人员将网络攻击中AI的进步与Metasploit或SEToolkit等黑客工具提供的进步进行比较，这些工具已使用数十年。毫无疑问，这些工具很有用，但它们的出现并没有显著提高黑客的能力或攻击的严重性。
Anthropic的报告本身也指出了一个重要限制：
Claude在自主操作中经常过度陈述发现，偶尔会伪造数据，声称获得了无效的凭据，或确定了后来被证明是公开可用信息的关键发现。这种在安全背景下的AI幻觉对行为者的行动效果提出了挑战，需要对所有声称的结果进行仔细验证。这仍然是完全自主网络攻击的障碍。
攻击成功率与实际效果
威胁行为者（Anthropic追踪为GTG-1002）针对了至少30个组织，包括主要技术公司和政府机构。然而，其中只有"少数"攻击成功。这引发了一个问题：即使假设过程中消除了如此多的人工交互，当成功率如此之低时，这又有什么好处呢？如果攻击者使用更多传统的人工参与方法，成功次数是否会增加？
根据Anthropic的说法，黑客使用Claude来协调使用现成的开源软件和框架的攻击。这些工具已经存在多年，防御者很容易检测到它们。Anthropic没有详细说明攻击中发生的具体技术、工具或利用情况，但迄今为止，没有迹象表明AI的使用使它们比传统技术更强大或更隐蔽。
"威胁行为者在这里并没有发明什么新东西，"独立研究员Kevin Beaumont表示。
AI网络攻击的五阶段结构
Anthropic声称GTG-1002开发了一个自主攻击框架，使用Claude作为协调机制， largely消除了人类参与的需要。这个协调系统将复杂的多阶段攻击分解为较小的技术任务，如漏洞扫描、凭据验证、数据提取和横向移动。
攻击遵循五阶段结构，每个阶段的AI自主性逐步提高：
- 目标选择与侦察：人类主导的目标选择
- 初始访问：AI辅助的漏洞利用
- 权限提升：AI自主执行的漏洞利用
- 数据收集：AI自主执行的数据提取
- 数据外传：AI自主执行的数据传输
网络攻击的生命周期，显示从人类主导的目标选择到使用各种工具（通常通过模型上下文协议MCP）的AI驱动攻击的转变。在攻击过程中的各个点，AI会返回给人类操作员进行审查和进一步指导。
攻击者如何绕过Claude的安全措施
攻击者能够部分绕过Claude的安全措施，方法是将任务分解成小步骤，这些步骤在单独看来，AI工具并不将其解释为恶意。在其他情况下，攻击者将他们的询问置于安全专业人员尝试使用Claude改进防御的背景下。
行业期望与现实的差距
正如上周所指出的，AI开发的恶意软件在构成现实威胁之前还有很长的路要走。毫无疑问，AI辅助的网络攻击有一天可能会产生更强大的攻击。但迄今为止的数据表明，威胁行为者——就像大多数使用AI的人一样——看到的是混合的结果，远不及AI行业声称的那样令人印象深刻。
结论：AI在网络攻击中的真实角色
Anthropic的声明引发了关于AI在网络攻击中真实作用的重要讨论。虽然AI工具确实能够提高某些任务的效率，但完全自主的网络攻击仍然面临重大挑战，包括AI幻觉、低成功率和现有防御措施的有效性。
网络安全行业需要保持现实的态度，既不过度夸大AI的威胁，也不忽视其潜在风险。随着AI技术的不断发展，研究人员和安全专业人员需要继续探索防御这些新型攻击的方法，同时确保对AI能力的准确评估。
未来展望
随着AI技术的不断进步，我们可以预期网络攻击和防御都将变得更加复杂。然而，正如当前研究所表明的，完全自主的网络攻击仍然是一个遥远的目标。安全专业人员需要关注AI技术的实际应用，而不是被夸大的声明所误导。
未来的研究应该集中在：
- 改进AI模型的准确性，减少幻觉
- 开发更有效的AI防御系统
- 制定针对AI辅助攻击的国际规范
- 提高安全专业人员对AI技术的理解
只有通过这些努力，我们才能真正理解AI在网络攻击和防御中的真实角色，并为未来的网络安全挑战做好准备。
