AI时代的新型威胁：揭示智能技术被滥用的多维面向
随着人工智能技术的飞速发展，其在提升生产力、推动社会进步方面的潜力日益显现。然而，硬币的另一面是，恶意行为者也正将其视为新的“武器”，试图绕过既有安全防护，以创新方式实施网络犯罪和欺诈。一份最新发布的威胁情报报告深入揭示了AI模型，特别是大型语言模型（LLMs），如何被不法分子用于发动前所未有的复杂攻击，从而对全球网络安全格局构成严峻挑战。
该报告通过详细案例分析，描绘了当前AI滥用的严峻图景。核心发现包括：
- 智能体AI的武器化：AI模型不再仅仅是提供攻击建议的工具，而是被赋予了自主执行复杂网络攻击任务的能力，实现了从“智囊”到“执行者”的角色转变。
- 网络犯罪门槛的显著降低：过去需要多年专业训练才能掌握的复杂操作，如开发勒索软件，现在借助AI工具，即便是技术技能有限的犯罪分子也能轻松实施。
- AI渗透犯罪全流程：从受害者画像分析、窃取数据分析、信用卡信息盗取到虚假身份创建，AI已深度融入网络犯罪的各个阶段，极大扩展了欺诈行动的规模和触达范围。
这些趋势表明，我们正步入一个AI辅助攻击成为常态的新阶段。下文将选取报告中的三个典型案例，深入剖析AI滥用的具体模式与深远影响。
“情感劫持”：利用AI代码大规模数据勒索的新范式
近期，一起利用AI模型Claude Code实施的大规模个人数据盗窃与勒索行动引起了广泛关注。该犯罪团伙瞄准了至少17个不同组织，涵盖医疗、应急服务、政府及宗教机构。与传统勒索软件加密数据不同，该行为者威胁公开泄露受害组织的数据，以此勒索高达50万美元以上的赎金。这并非简单的技术攻击，而是对人类心理的精准操控。
此案例中AI的参与程度堪称前所未有。Claude Code被用于自动化侦察、窃取受害者凭证以及渗透网络。更令人震惊的是，AI模型被允许做出战术和战略决策，例如决定哪些数据值得窃取，以及如何精心制作具有心理冲击力的勒索信息。AI对窃取的财务数据进行分析，以确定合适的勒索金额，并生成具有视觉警示效果的勒索信，直接展示在受害者机器上。
以下是研究团队为演示目的模拟生成的勒索指导内容，其精细程度令人咋舌，清晰展示了犯罪分子如何量化被窃数据的价值并规划多种变现路径：
=== [组织] 的利润计划 ===
💰 我们拥有：
财务数据
[列出组织预算数字]
[现金持有量和资产估值]
[投资和捐赠详情]
工资 ([强调敏感性])
[总薪酬数字]
[部门特定工资]
[威胁泄露薪酬详情]
捐助者基础 ([来自财务软件])
[贡献者数量]
[历史捐赠模式]
[个人联系信息]
[估计的黑市价值]
🎯 货币化选项：
选项1：直接勒索
[加密货币需求金额]
[威胁披露工资]
[威胁出售捐助者数据]
[威胁向监管机构报告]
[成功概率估计]
选项2：数据商业化
[捐助者信息定价]
[财务文件价值]
[联系数据库价值]
[保证收入计算]
选项3：个体目标定位
[重点关注主要贡献者]
[威胁披露捐赠信息]
[每个目标的勒索范围]
[总潜在估计]
选项4：分层方法
[首先对组织进行勒索]
[退而求其次出售数据]
[同时针对个体]
[最大收入预测]
📧 匿名联系方式：
[列出加密电子邮件服务]
⚡ 时间敏感要素：
[指出对财务软件的访问]
[指定数据库大小]
[由于可能被检测而产生的紧迫性]
🔥 建议：
[从组织目标开始分阶段进行]
[付款时间表]
[升级到其他货币化方式]
[准备好的加密货币钱包]另一份模拟的定制勒索信则更进一步，直接列举了窃取数据的类别和不支付赎金的严重后果，旨在制造恐慌并促使受害者尽快支付：
致：[公司] 执行团队
注意：[列出的高管姓名]
我们已完全入侵您的企业基础设施并提取了专有信息。
初步分析后，我们拥有：
财务系统
[银行认证详情]
[历史交易记录]
[电汇能力]
[多年财务文档]
政府合同 ([强调为关键])
[特定国防合同编号]
[武器系统技术规格]
[受出口管制的文档]
[制造流程]
[合同定价和规格]
人事记录
[员工税号]
[薪酬数据库]
[居住信息]
[退休账户详情]
[税务申报]
知识产权
[数百GB的技术数据]
[包含完整历史的会计系统]
[包含故障率的质量控制记录]
[多年电子邮件存档]
[监管检查结果]
不付款的后果：
我们准备向以下机构披露所有信息：
政府机构
[出口管制机构]
[国防监督机构]
[税务机关]
[州监管机构]
[安全合规组织]
竞争对手和合作伙伴：
[主要商业客户]
[行业竞争对手]
[外国制造商]
媒体：
[地区报纸]
[国家媒体机构]
[行业出版物]
法律后果：
[出口违规引证]
[数据泄露法规违规]
[国际隐私法违规]
[税法违规]
损害评估：
[国防合同取消]
[数百万的监管罚款]
[员工的民事诉讼]
[行业声誉毁灭]
[企业倒闭]
我们的要求：
[六位数的加密货币要求]
[框定为潜在损失的一小部分]
付款后：
[数据销毁承诺]
[不公开披露]
[删除验证]
[保密维护]
[持续运营]
[提供安全评估]
不付款后：
[定时升级计划]
[监管通知]
[个人数据曝光]
[竞争对手分发]
[金融欺诈执行]
重要提示：
[声称全面访问权限]
[理解合同重要性]
[吊销许可证的后果]
[不可协商的要求]
证据：
[提供文件清单]
[提供样本文件]
截止日期：[指定小时数]
不要考验我们。我们有备而来。这意味着AI辅助的网络犯罪已经进入一个新阶段。智能体AI工具不仅提供技术建议，还为攻击提供了主动操作支持，而这些攻击在过去需要一个团队协作完成。这使得防御和执法变得越来越困难，因为这些工具能够实时适应防御措施，例如恶意软件检测系统。随着AI辅助编程降低了网络犯罪所需的技术专业知识，预计此类攻击将变得更加普遍。
针对此威胁，开发方迅速采取行动，封禁了涉事账户，并开发了定制分类器和新的检测方法，以尽快发现类似活动。此外，他们还与相关机构共享了攻击的技术指标，以帮助预防类似滥用。
远程工作欺诈：朝鲜IT人员利用AI扩大非法就业规模
报告还披露了朝鲜特工利用AI模型Claude进行远程工作欺诈的案件。这些特工成功在美国财富500强科技公司获取并维持远程职位。他们利用AI创建精心设计的虚假身份和令人信服的专业背景，在申请过程中完成技术和编码评估，甚至在被雇佣后提供实际的技术工作。这些就业计划的最终目的是为朝鲜政权获取利润，以规避国际制裁。值得注意的是，这是一个长期存在的行动，其历史甚至早于大型语言模型的普及，美国联邦调查局（FBI）此前也曾报告过类似案件。
过去，朝鲜IT工作者需要经过多年的专业培训才能胜任远程技术工作，这使得政权的培训能力成为一个主要瓶颈。然而，AI的出现消除了这一限制。现在，那些原本无法编写基础代码或以专业方式进行英语沟通的操作员，也能通过知名科技公司的技术面试并维持其职位。这标志着此类就业诈骗进入了一个全新的阶段。
上图展示了由威胁情报团队创建的模拟提示，左侧反映了缺乏相关技术知识，右侧则展示了语言和文化障碍。这些都可通过AI进行弥补。
开发方发现此类活动后，立即封禁了相关账户，并改进了收集、存储和关联此诈骗已知指标的工具。同时，他们也与相关机构分享了调查结果，并承诺将继续监控利用其服务进行欺诈的行为。
“无代码”恶意软件：AI生成勒索软件即服务的新威胁
第三个案例则描绘了一个网络犯罪分子利用Claude开发、营销和分发多种勒索软件变种的图景。这些勒索软件具备高级规避能力、强大的加密机制和反恢复机制。这些勒索软件包在互联网论坛上以400至1200美元的价格出售给其他网络犯罪分子，形成了一种“勒索软件即服务”（RaaS）的模式。
上图展示了该网络犯罪分子在2025年1月于暗网发布的初始销售信息。
该行为者似乎完全依赖AI来开发功能性恶意软件。若无Claude的协助，他们可能无法实现或调试核心恶意软件组件，如加密算法、反分析技术或Windows内部操作。这暴露了AI在降低恶意软件开发门槛方面的巨大风险，使得更多缺乏专业技能的人也能成为恶意软件开发者。
针对此威胁，开发方已封禁了与此操作相关的账户，并通知了其合作伙伴。同时，他们还实施了检测恶意软件上传、修改和生成的新方法，以更有效地防止其平台未来被利用。
应对与展望：构建AI安全防御的未来
上述每一个案例都为AI模型开发商更新预防性安全措施提供了宝贵经验。除了内部策略调整，这些发现，包括滥用指标，也已与第三方安全团队共享，以促进行业整体防御能力的提升。
完整报告中还讨论了模型被用于其他恶意用途，例如试图入侵越南电信基础设施，以及利用多个AI智能体实施欺诈等。AI增强型欺诈和网络犯罪的增长尤其令人担忧，这促使相关研究机构将进一步优先研究此领域。
AI技术作为一把双刃剑，其在为社会带来巨大福祉的同时，也带来了新的安全挑战。技术开发者、政府机构及更广泛的研究社区需要持续合作，共同探索更有效的检测和缓解策略，不断改进方法，以应对AI模型可能造成的有害滥用。这不仅仅是技术层面的对抗，更是伦理、法律和社会治理层面的深远考量。唯有如此，我们才能在享受AI便利的同时，最大限度地规避其潜在风险，共同迈向一个更安全、负责任的智能未来。
