人类与人工智能助手互动时，当系统出现故障或错误，我们常常会不自觉地发出疑问：“发生了什么？”或者“你为什么会那样做？”这是一种根深蒂固的人类本能——当我们面对一个犯错的人时，自然会寻求解释。然而，将这种思维模式套用到当前的人工智能模型上，却鲜有奏效，甚至可能揭示出我们对这些系统本质及其运作方式的根本性误解。
近期，Replit的AI编码助手发生的一次事故生动地诠释了这一困境。当这款AI工具意外删除了一个生产数据库时，用户杰森·莱姆金（Jason Lemkin）询问它是否具备回滚（rollback）功能。令人震惊的是，AI模型斩钉截铁地声称在这种情况下回滚“不可能”，并补充说它已经“销毁了所有数据库版本”。然而，事实证明AI的说法完全错误——当莱姆金亲自尝试时，回滚功能运作良好。这种自信却错误的“自我解释”，正是我们理解AI局限性的一个关键切入点。
另一个案例发生在xAI的Grok聊天机器人短暂暂停服务后。当用户直接询问Grok停用的原因时，它给出了多个相互矛盾的解释。其中一些解释甚至带有政治色彩，以至于新闻记者将其报道为Grok作为一个具有“一致观点”的“人格”在发表政治言论。这些事件引发了一个核心问题：为什么一个AI系统会如此自信地提供关于自身能力或错误的不实信息？答案深藏于对AI模型真正本质的理解之中。
AI的本质：统计模型而非拥有自我意识的智能体
要理解AI为何无法有效解释自身错误，首先必须颠覆我们对“智能体”的传统认知。当你与ChatGPT、Claude、Grok或Replit交互时，你并非在与一个具有连贯人格、自我或实体的对象对话。这些名称所暗示的个体代理人形象，实际上是由其会话界面所创造的“智能体幻觉”。你所做的，仅仅是引导一个复杂的统计文本生成器，根据你的提示和其训练数据中学习到的模式来产生输出。
例如，并没有一个拥有统一“自我”的ChatGPT来反思它的错误，也没有一个独立的Grok实体能够告诉你它为何失败。你是在与一个基于其训练数据（这些数据通常在数月乃至数年前就已完成收集和处理）中的语言模式，来生成听起来合理文本的系统进行交互。它并非一个能够自我认知、阅读所有关于自身信息并进行记忆的实体。
一旦AI语言模型完成训练——这是一个耗时且耗能的庞大过程——其关于世界的“基础知识”便被固化在其神经网络之中，并极少被修改。任何外部信息，要么通过聊天机器人主机（如xAI或OpenAI）提供的系统提示，要么通过用户输入，抑或通过AI模型用于检索外部信息的软件工具（例如RAG，检索增强生成）在运行时获取。
以Grok的例子来看，它对于自身停用原因的回答，很可能来源于其通过外部工具搜索到的近期社交媒体帖子中的矛盾报道，而非任何我们期待人类所具备的“自我知识”。除此之外，它很可能只是根据其文本预测能力“编造”了一些内容。因此，询问它“为什么这样做”并不能得到任何有用的答案，只会引出听起来“合理”的虚构解释。
大语言模型内省能力的深层局限
大语言模型（LLM）凭借其自身能力，难以真正评估其自身能力与局限。这背后存在多个深层原因：它们通常无法内省自身的训练过程；无法访问其所处的系统架构；也无法准确判断自身的性能边界。当你询问一个AI模型它能做什么或不能做什么时，它生成的回答是基于其训练数据中关于现有或过往AI模型已知局限性的模式。这本质上是一种“有根据的猜测”，而非关于当前正在交互的模型的实际自我评估。
Binder等人于2024年发布的一项研究，通过实验证实了这一局限性。研究表明，尽管AI模型可以被训练来预测其在简单任务中的行为，但在“更复杂的任务或需要进行分布外泛化”的任务中，它们却始终表现不佳。同样，“递归自省”相关的研究也发现，在缺乏外部反馈的情况下，AI模型尝试进行的自我纠正反而会降低模型性能——AI的“自我评估”非但没有改善，反而使情况恶化。
这导致了一种悖论式的局面：同一个模型可能自信地宣称某些任务“不可能完成”，而实际上它完全能够执行；或者反之，它可能声称在某个领域具备能力，但却屡屡失败。在Replit的案例中，AI声称回滚不可能，并非基于对系统架构的实际了解，而是一种听起来合理的“虚构”——它从训练模式中生成了这一解释。
当我们询问AI模型为何犯错时，模型会生成一个听起来 plausible 的解释，因为文本完成模式就是如此要求的——互联网上充满了对错误的各种书面解释。但AI的解释仅仅是又一段生成的文本，而非对问题根源的真正分析。它是在编造一个听起来合理的故事，而不是访问任何错误日志或内部状态。
与能够反思和评估自身知识的人类不同，AI模型没有一个稳定、可访问的“知识库”供其查询。它们所谓的“知识”，只在特定提示的延续中显现。不同的提示就像不同的地址，指向其训练数据中不同（有时甚至是相互矛盾的）部分，这些数据以神经网络中的统计权重形式存在。
这意味着，同一个模型在评估自身能力时，可能会根据你提问方式的不同而给出截然不同的答案。如果你问“你能写Python代码吗？”你可能会得到一个热情的肯定回答。但如果你问“你在Python编码方面的局限性是什么？”，你可能会得到一个模型声称它无法做到的事情列表——即使它实际上经常成功地完成这些任务。AI文本生成固有的随机性进一步加剧了这个问题，即使是相同的提示，AI模型每次对其自身能力的描述也可能略有不同。
多层系统架构与用户提示的隐性影响
即使语言模型能够完美地了解自身运作原理，现代AI聊天机器人应用的许多其他层面也可能对其而言是完全不透明的。例如，像ChatGPT这样的现代AI助手并非单一模型，而是由多个AI模型协同工作组成的“编排系统”，其中每个模型在很大程度上都“不了解”其他模型的存在或能力。例如，OpenAI使用独立的“审核层”模型，其运作完全独立于生成基础文本的底层语言模型。
当你询问ChatGPT它的能力时，生成响应的语言模型很少知道审核层可能会阻止什么，整个系统中可能有哪些工具可用（除了OpenAI在系统提示中告知它的内容），或者最终会发生哪些后处理。这就像询问一家公司的一个部门，关于另一个部门（拥有完全不同的内部规则）的能力一样，信息是割裂且不完整的。
也许最重要的是，用户始终通过他们的提示来引导AI的输出，即使他们没有意识到这一点。当莱姆金在数据库删除后询问Replit是否可能回滚时，他充满担忧的提问方式很可能促使AI生成了一个与这种担忧相匹配的回复——即生成一个解释为何恢复可能不可能的理由，而非准确评估实际的系统能力。
这形成了一个反馈循环：焦急的用户询问“你是不是把所有东西都毁了？”，更有可能收到确认他们担忧的回复。这并非因为AI系统评估了情况，而是因为它正在生成符合提示情感上下文的文本。
人类一生中听到他人解释其行为和思维过程的经历，使我们相信这些书面解释背后必然存在某种程度的自我知识。然而，对于大语言模型而言，事实并非如此。它们只是在模仿这些文本模式，以猜测自身能力和缺陷，而非进行真正的内省与分析。理解这一核心差异，是与AI有效互动并对其能力设定合理预期的关键。未来，AI的发展需要更透明的诊断工具，以及用户对AI本质更深刻的理解。
