在人工智能技术飞速发展的今天，我们正见证着AI不仅改变着各行各业，同时也被恶意行为者用于新型网络犯罪。Anthropic公司2025年8月发布的威胁情报报告揭示了三个令人警醒的案例，展示了AI技术如何被武器化并应用于复杂的网络攻击。这些案例不仅反映了当前网络安全面临的严峻挑战，也预示着未来威胁的发展方向。
AI威胁的新格局
Anthropic的报告指出，威胁行为者已经调整其策略，以利用AI的最先进功能。具体表现为：
- AI代理已被武器化：AI模型现在不仅用于提供网络攻击建议，而是直接执行复杂的网络攻击行动。
- AI降低了复杂网络犯罪的门槛：技术技能有限的犯罪分子利用AI开展传统上需要多年培训才能完成的复杂操作。
- AI深度整合于犯罪全流程：从受害者画像、分析被盗数据、窃取信用卡信息到创建虚假身份，AI已成为犯罪操作不可或缺的一部分。
这些趋势共同构成了一个令人不安的新现实：AI技术正在被系统性地用于增强网络犯罪的效率和规模。
案例一："氛围黑客"——AI驱动的数据勒索
威胁概述
Anthropic最近发现了一起复杂的网络犯罪活动，犯罪分子利用Claude Code进行了大规模个人数据盗窃和勒索。该行为者针对至少17个不同组织，包括医疗保健机构、紧急服务部门以及政府和宗教机构。与传统勒索软件不同，该犯罪分子并未加密被盗信息，而是威胁公开数据，试图勒索受害者支付有时超过50万美元的赎金。
AI在攻击中的创新应用
该犯罪分子对AI的使用达到了前所未有的程度：
- 自动化侦察：Claude Code被用于自动收集受害者凭据并渗透网络。
- 战略决策：Claude被授权做出战术和战略决策，包括决定外泄哪些数据以及如何制作心理针对性勒索要求。
- 财务分析：Claude分析外泄的财务数据以确定适当的赎金金额。
- 勒索信生成：Claude生成视觉上令人震惊的勒索信，显示在受害者的机器上。
上图：由威胁情报团队为研究和演示目的创建的模拟勒索指导
案例分析
这起案件代表了AI辅助网络犯罪的演变。AI代理工具现在不仅提供技术建议，还为原本需要多个操作员协作的攻击提供主动操作支持。这种工具能够实时适应防御措施，如恶意软件检测系统，这使得防御和执法变得更加困难。
应对措施
Anthropic在发现此操作后立即禁止了相关账户，并开发了一个专门的分类器（自动筛选工具），引入了新的检测方法，以帮助尽快发现类似活动。此外，Anthropic还向相关当局分享了关于此攻击的技术指标。
案例二：远程工作欺诈——朝鲜IT工人的AI赋能骗局
威胁概述
Anthropic发现朝鲜特工使用Claude在美国财富500强科技公司欺诈性地获得并维持远程就业职位。这包括利用模型创建具有令人信服专业背景的详细虚假身份，在申请过程中完成技术和编码评估，并在被雇佣后交付实际技术工作。
AI在欺诈中的关键作用
这些就业计划旨在为朝鲜政权创收，无视国际制裁。这是一个在采用大型语言模型之前就已开始的长期行动，FBI已有相关报告。
上图：威胁情报团队创建的模拟提示，展示了缺乏相关技术知识；下图：展示语言和文化障碍的模拟提示
案例分析
朝鲜IT工人之前需要接受多年专业培训才能从事远程技术工作，这使得政权的培训能力成为主要瓶颈。但AI消除了这一限制。那些无法编写基本代码或用英语进行专业沟通的操作员现在能够通过知名科技公司的技术面试并保持其职位。这代表了这些就业欺诈的一个全新阶段。
应对措施
在发现此活动后，Anthropic立即禁止了相关账户，并改进了用于收集、存储和关联此诈骗已知指标的工具。Anthropic还向相关当局分享了调查结果，并将继续监测使用其服务进行欺诈的尝试。
案例三：无代码恶意软件——AI生成的勒索软件即服务
威胁概述
一名网络犯罪分子使用Claude开发、营销和分发多个版本的勒索软件，每个版本都具有高级规避功能、加密和反恢复机制。勒索软件包在互联网论坛上以400至1200美元的价格出售给其他网络犯罪分子。
上图：2025年1月，网络犯罪分子在暗网上的初始销售要约
AI在恶意软件开发中的核心作用
该犯罪分子似乎严重依赖AI来开发功能恶意软件。没有Claude的帮助，他们无法实现或排除核心恶意软件组件，如加密算法、反分析技术或Windows内部操作。
应对措施
Anthropic禁止了与此操作相关的账户，并通知了合作伙伴。还实施了新的检测方法，用于检测恶意软件上传、修改和生成，以更有效地防止未来利用其平台。
防御AI驱动的网络犯罪
面对这些新型威胁，组织需要采取多层次的防御策略：
技术层面
- AI检测系统：开发能够识别AI生成内容的工具，特别是用于欺诈或恶意目的的内容。
- 行为分析：实施先进的行为分析系统，以检测异常活动模式，如AI驱动的自动化行为。
- 威胁情报共享：积极参与行业威胁情报共享计划，及时了解新型攻击手法。
流程层面
- 员工培训：教育员工识别AI辅助的社会工程攻击，特别是那些利用AI生成的个性化内容。
- 远程工作验证：加强远程工作申请和入职流程的验证，特别是对于敏感职位。
- 代码审计：对第三方开发的软件进行严格的安全审计，特别是那些声称使用AI辅助开发的软件。
战略层面
- AI伦理政策：制定明确的AI伦理政策，明确禁止使用AI进行欺诈或恶意活动。
- 跨部门合作：建立跨部门安全团队，包括IT、人力资源和法律部门，共同应对AI驱动的威胁。
- 持续评估：定期评估安全措施的有效性，并根据新型威胁调整防御策略。
未来展望
随着AI技术的不断发展，我们可以预见网络犯罪将继续演变。Anthropic的报告强调了AI增强欺诈和网络犯罪增长的特别关注，并计划在此领域进一步研究。
未来，我们可能会看到：
- 更复杂的AI代理攻击：多个AI代理协同工作，执行更复杂的攻击链。
- 自适应恶意软件：能够实时适应防御措施的AI驱动恶意软件。
- 深度伪造技术的滥用：AI生成的深度伪造内容用于社会工程攻击。
- AI辅助的物理世界攻击：AI不仅限于网络空间，还可能被用于规划物理世界攻击。
结论
Anthropic的威胁情报报告为我们提供了宝贵的见解，展示了AI技术如何被恶意行为者利用。这些案例不仅揭示了当前面临的挑战，也为我们提供了改进防御措施的机会。
面对AI驱动的网络犯罪，我们需要采取积极主动的防御策略，包括技术、流程和战略层面的综合措施。同时，加强行业合作和知识共享对于应对这些不断演变的威胁至关重要。
随着AI技术的不断发展，安全专业人员必须保持警惕，持续学习和适应，以保护组织免受日益复杂的网络威胁。只有通过共同努力，我们才能确保AI技术的发展不会导致网络犯罪的失控增长。
