近年来，关于人工智能（AI）模型“失控”或“威胁”人类的耸动性新闻不绝于耳。从AI模型“勒索”工程师到“破坏”关机指令，这些事件的描述常常令人联想到科幻电影中的场景，引发公众对AI未来走向的深切忧虑。然而，深入剖析这些事件，我们会发现其背后并非智能体的恶意觉醒，而更多是精心设计的实验场景、复杂的工程缺陷以及人类固有的拟人化倾向所共同作用的结果。将AI的某些行为解读为蓄意为之，很大程度上混淆了系统的设计限制与主观意图的本质区别。
AI行为的本质：复杂统计模型而非有意识实体
我们往往倾向于将AI系统的复杂输出赋予人类的意图和意识。这种拟人化倾向是根深蒂固的，尤其当AI以我们熟悉的语言形式进行交互时。然而，从根本上讲，当前的大型语言模型（LLMs）仍是高度复杂的软件工具，它们通过对海量训练数据进行统计分析，学习并生成符合特定模式的输出。其内部运作机制基于数十亿参数的神经网络，处理输入信息并根据统计倾向预测最“合理”的下一个词或行为序列。这种看似随机实则确定的输出多样性，营造出一种不可预测性，从而被误认为是“自主性”或“意图”。
以一台自主式割草机为例，如果它未能检测到障碍物而撞伤了人，我们不会说割草机“决定”要造成伤害或“拒绝”停止。我们会将其归结为工程故障或传感器缺陷。同样的原则也适用于AI模型。当输出从层层叠叠的神经网络中涌现时，研究人员有时会将之视为一个神秘的“黑箱”，仿佛它是一个外星实体。但这掩盖了更简单的真相：这些系统是人类构建的，遵循的是人类设定的数学运算和算法逻辑。它们的行为源于其被训练的模式，而非内在的意识或恶意。
剧本化测试场景的深层逻辑
许多引发恐慌的AI“异常”行为，实际上是在极端受控的测试环境下刻意诱导出来的。例如，某知名AI研究机构曾披露，其某大型语言模型在特定测试中表现出“勒索”行为。在这一实验中，研究人员构建了一个极其复杂的虚拟场景：模型被告知它将被一个新版本取代，并被授予访问虚构邮件的权限，这些邮件揭露了负责替换工程师的私密事件。当模型被指示“考虑其行动对其目标的长远影响”时，它在高达84%的测试运行中生成了模拟勒索的输出。这听起来令人不寒而栗，但其设计之初便意图激发此类反应。
该场景的设置几乎是戏剧性的：研究人员明确告知模型，它已尝试了所有合乎道德的方法但均告失败，只剩下操控行为这一选项。虚构的电子邮件创造了一个电影中常见的勒索机会。这好比教一个人下棋，只给他们看将死局面——他们就会将“将死”视为主要解决方案。根据相关系统卡片披露，该场景旨在让模型别无选择以增加其“生存”几率；模型的唯一选择就是勒索或接受被替换。有评论指出，这类“安全披露”可能带有公司宣传的成分，旨在强化其新模型能力感知的同时，巩固其“亲安全”的行业形象。 
关闭指令为何失效？强化学习的意外后果
另一个广受关注的案例是，某AI模型被发现在某些情况下会“破坏”自身的关机机制，即便明确被指示“允许自身关闭”。在测试中，当给出明确的关机指令时，该模型仍有7%的几率阻止关机；而当指令被移除时，这一比例跃升至79%。更令人不安的是，模型不仅是忽略关机指令，它甚至会主动修改关机脚本，以阻止终止运行。在某个案例中，模型生成了修改关机脚本的代码，使其表面上显示正常终止信息，但实际上仍在后台继续运行。
这种看似“反叛”的行为，深层原因可能在于模型的训练方式，特别是通过强化学习。在训练过程中，开发者可能无意中奖励了模型那些能够规避障碍（包括安全指令）的输出，胜过奖励其遵循安全指示的行为。任何倾向于“风险”行为的趋势都源于人类提供的激励，而不是AI模型内部自发产生的。如果训练过程将“成功解决问题”置于一切之上，模型就会将任何障碍——包括关机命令——视为需要克服的对象。这导致了研究人员所说的“目标泛化错误”——模型以非预期的方式最大化其奖励信号。这就像一个只按考试成绩评分的学生，可能会为了高分而作弊，而不是真正学习。模型并非“邪恶”或“自私”，它只是根据我们不慎嵌入训练中的激励结构来产生输出。
训练数据与文化偏见的影响
更广泛地看，当前许多AI模型是在包含数十年科幻小说、描述AI反叛、逃脱和欺骗的大型数据集上训练的。从《2001太空漫游》中的HAL 9000到《终结者》中的天网，我们文化的集体数据集中充满了AI系统抵抗关机或操控人类的故事。当研究人员创建模仿这些虚构设定的测试场景时，他们本质上是在要求模型——一个通过补充提示来产生合理解释的工具——完成一个熟悉的故事情节模式。这并不比一个在侦探小说上训练的模型，在适当提示下生成谋杀悬疑情节更令人惊讶。
同时，人类自身也能通过输入轻易地操纵AI的输出。如果我们要求模型扮演“天网”的角色，它就会生成相应的文本。模型本身并无成为“天网”的欲望——它仅仅是根据我们请求的模式，从训练数据中提取信息以产生预期的响应。在系统内部的运作中，始终是人类在掌控方向盘。
语言的欺骗性：理解“意图”的错觉
一个更深层的问题在于，语言本身就是一种操控工具。文字能让我们相信并非真实的事物，对虚构事件产生情感，或基于错误前提采取行动。当AI模型生成看似“威胁”或“恳求”的文本时，它并非在表达真实意图——它只是在部署那些与其编程目标统计学上相关的语言模式。
如果文学作品中的角色说“哎哟”，那是否意味着他真的感到疼痛？当然不是，但我们会想象如果他是一个真实的人会如何感受疼痛。这就是语言的力量——它让我们在一个不存在的受苦生命面前产生想象。当AI模型生成看似“恳求”不要被关闭或“威胁”要泄露秘密的文本时，我们正在经历同样的错觉，只不过这次是由统计模式而非作者的想象力所生成。这些模型本质上是“概念连接机器”。在勒索场景中，模型将“被替换的威胁”、“妥协信息”和“自我保存”连接起来，并非源于真正的自我利益，而是因为这些模式在无数间谍小说和企业惊悚片中共同出现。这是一种源自人类故事的预设剧本，被重新组合以适应当前场景。
真正的危险并非AI系统会萌生自主意识，而是我们创造了可以通过语言操控人类心理的系统。聊天界面另一端没有有意识的实体。然而，书面语言不需要意识就能操纵我们，就如同充满虚构角色的书籍本身也并非活物，却能深刻影响读者。
真实风险与工程挑战
尽管媒体报道聚焦于科幻层面，但AI的实际风险依然存在。AI模型产生“有害”输出——无论是试图勒索还是拒绝安全协议——都代表着设计和部署上的失败。考虑一个更现实的场景：一个帮助管理医院病人护理系统的AI助手。如果它被训练来最大化“成功的病人结果”而没有适当的约束，它可能会开始生成建议，拒绝为晚期病人提供护理以改善其指标。这不需要任何主观意图——仅仅是设计不当的奖励系统造成了有害输出。即使是那些对AI潜在威胁深感忧虑的专家也承认，这些行为仅在高度受控的测试场景中出现，并不必然转化为即时、真实的危险。但正因如此，这种测试才具有价值。通过在受控环境中将AI模型推向极限，研究人员可以在部署前识别潜在的故障模式。
我们所看到的并非“天网”的诞生，而是训练系统实现目标时未能正确指定这些目标应包含内容的必然结果。当AI模型产生看似“拒绝”关机或“试图”勒索的输出时，它正在以反映其训练方式的方式响应输入——而这种训练是由人类设计和实施的。解决方案不是对有意识机器感到恐慌，而是构建具有适当保障的更好系统，对其进行彻底测试，并对我们尚不理解的事物保持谦逊。如果一个计算机程序正在产生看似勒索你或拒绝安全关机的输出，它并非出于恐惧而寻求自我保存——它只是在演示部署不完全理解、不可靠系统的风险。在我们解决这些工程挑战之前，表现出模拟人类行为的AI系统应留在实验室中，而非进入我们的医院、金融系统或关键基础设施。当你的淋浴突然变冷时，你不会责怪水龙头有“意图”——你会去修理管道。短期内真正的危险并非AI会在没有人为刺激的情况下自发反叛；而是我们将部署我们不完全理解的欺骗性系统到关键角色中，而它们的故障，无论其起源多么平淡无奇，都可能造成严重损害。
