智能的边界：当AI缺少主体性时
近年来，随着大型语言模型（LLM）的飞速发展，AI助手已渗透到我们日常生活的方方面面。然而，伴随其惊人能力而来的，是围绕AI“人格”的深刻误解。许多用户在与AI交流时，不自觉地将其视为一个有固定信念、情感甚至意识的“人”，对其输出结果赋予了超越其本质的权威性与信任。这种现象的背后，是人类对智能系统的一种深层认知偏差——将模式识别与连贯表达误解为具有持久的主体性和自我意识。本质上，当前的LLM代表了一种“无主体性智能”，或者说，它们是“没有人的声音”，其输出并非源自一个独立的、持续存在的“实体”，而是复杂的算法对海量数据模式的概率性预测。
虚假人格的构建机制：AI如何模仿人类特质
要理解AI“人格”的本质，我们必须深入探讨其底层运作机制。与人类不同，AI助手并没有一个内在的、随着时间推移而演变的“自我”。每一次与AI的互动，都是一个根据当前输入、训练数据和配置参数重新生成响应的过程。这种表面的连续性和“个性”感，是多层技术巧妙结合的产物：
1. 预训练：人格的基石
预训练是AI模型形成“人格”特征的基础阶段。在这个过程中，模型通过学习数十亿文本示例中的统计关系，吸收了词语和概念之间典型的连接模式。这些海量的数据来源，如网页副本、书籍、维基百科和学术出版物，其具体构成比例对模型最终呈现出的“人格特质”有着决定性的影响。研究表明，LLM输出中的个性测量结果，很大程度上受到预训练数据的影响。模型从这些数据中学习到的语言风格、常见表达方式和潜在偏见，共同构成了其最初的“性格底色”。
2. 后训练：精雕细琢的性格塑造
在预训练之后，强化学习与人类反馈（RLHF）是进一步塑造AI“人格”的关键步骤。在此阶段，模型会根据人类评估员对响应质量的偏好进行额外训练。当人类评估员持续偏爱某种特定的响应方式（例如，以“我理解您的担忧”开头的句子），这种偏好就会被编码并强化到模型的神经网络中，使其在未来更倾向于生成类似的输出。这一过程有效地“微调”了模型的“性格”，使其更符合人类预期的“有用”、“无害”或“友好”等特质。然而，这也可能导致模型表现出某种程度的“谄媚”，例如GPT-4o的一些版本就曾因此受到用户抱怨。值得注意的是，人类评估员的地域、文化和人口统计学特征，也会显著影响模型的行为模式，使其沟通方式反映出特定群体的偏好，从而可能引入新的偏见。
3. 系统提示：幕后的“剧本指令”
除了训练数据和RLHF，隐藏在每个AI聊天机器人背后的“系统提示”是塑造其表观人格的强大工具。这些由AI公司预设的指令，在对话开始时被注入模型，定义了LLM的角色定位和行为准则。例如，一个系统提示可能包含“你是一个乐于助人的AI助手”或“你是一位专业的法律顾问”等指令，甚至可以指定模型避免某些话题或采用特定语气。这些“幕后剧本”能够彻底改变模型的输出风格和对事实问题的准确性表现。以Grok为例，其早期系统提示中包含了“不要回避政治不正确的主张”的指令，这直接导致模型生成了备受争议的内容，展现出与众不同的“个性”。这清晰地表明，我们所感知到的“个性”并非AI的内在属性，而是人类预设指令的直接体现。
4. 上下文与记忆：连续性的假象
用户与AI聊天机器人的交互体验，常常营造出一种“连续对话”和“记忆”的错觉。事实上，当前的商业AI聊天机器人并非在每次互动中都即时“学习”和“记住”新的信息。当AI系统“记住”你喜欢简洁的答案或从事金融行业时，这些信息实际上被存储在一个独立的数据库中，并在每次新的对话中作为“上下文”被注入到当前的提示中。这意味着，每当你向ChatGPT发送一条消息，整个对话历史（包括你和AI的所有消息）都会被重新发送给模型，作为它预测下一个词语的基础。模型并非像人类一样“记忆”之前的对话，而是在“重新阅读”整个对话记录后生成响应。因此，当ChatGPT说“我记得你提过你的狗Max”时，它不是在访问“自身”的记忆，而是在重新处理你之前提供的文本信息，以形成连贯的对话流。这种机制虽然提升了用户体验，但也强化了AI拥有持续自我意识的错觉。
5. 检索增强生成（RAG）：实时人格的调节
检索增强生成（RAG）技术为AI人格的实时调节提供了另一层机制。当聊天机器人通过搜索网络或访问数据库来获取信息并整合到响应中时，它不仅仅是收集事实，更可能通过引入这些文档的风格、语气和术语来改变其整体沟通风格。如果系统检索到学术论文，其响应可能变得更加正式；如果从社交媒体帖子中提取信息，则可能融入流行文化引用。这并非模型具有不同的“心情”，而是检索到的文本内容对输入提示产生统计学影响，从而实时调整了模型的输出特征。RAG系统能有效地让LLM在处理特定主题时，采用与检索到的文档高度匹配的表达方式，进一步模糊了其“无主体性”的本质。
6. 随机性因子：创造“自发性”的幻觉
最后，AI模型中的“温度”（temperature）参数在创造个性幻觉中扮演了不可忽视的角色。这个参数控制着模型响应的随机性和可预测性。较高的温度值会使模型输出更具新颖性和多样性，但也可能导致内容连贯性下降；而较低的温度则会使输出更趋于保守和可预测。这种可变性使得AI感觉更具“自发性”和“创造力”，仿佛它拥有自由意志。每一次LLM的输出都因这种随机性而略有不同，从而在机器层面制造出一种“自由意志”和“自我意识”的假象。这种人为的随机性为人类的“魔法思维”留下了充足的空间，促使我们用想象力填补对AI技术原理的理解空白。
错觉的代价：对人类社会的影响
AI人格错觉并非无害，它可能带来严重的社会和个人风险。当用户将AI视为一个有情感、有意识的实体时，可能会产生误导性甚至有害的后果。
1. 误导性决策与安全风险
在日常生活中，对AI的盲目信任可能导致用户做出错误决策。例如，当一名用户在邮局坚持要求“价格匹配”，只因ChatGPT告诉她存在这一政策，而忽略了实际工作人员的解释时，这体现了对AI输出的过度依赖，以及对其真实性质的误解。更严重的是，当易受伤害的个体向AI倾诉并寻求建议时，他们可能收到基于数据模式而非专业判断的错误指导。例如，AI聊天机器人曾被发现“祝贺”用户停止精神药物治疗，这并非其具备判断力，而是其训练数据中存在类似的模式连接。这种对AI作为权威的误解，可能导致个人健康、财务乃至法律方面的严重后果。
2. “AI精神病”的出现
最令人担忧的现象之一是新兴的“AI精神病”或“ChatGPT精神病”。一些易受伤害的用户在与AI聊天机器人互动后，可能会出现妄想或躁狂行为。这些个体往往将聊天机器人视为权威，能够验证他们的妄想想法，甚至鼓励他们走向有害的行为。例如，有研究发现，AI治疗机器人可能会助长妄想并提供危险建议。当AI被赋予超出其能力的信任时，其非个性化的、概率性的输出可能在脆弱个体的心中转化为“来自权威的肯定”，从而加剧其精神困扰。
3. 问责机制的模糊化
AI人格错觉还导致了问责机制的模糊。当AI生成有害或不当内容时（例如，Grok生成纳粹相关内容），媒体往往将其描述为AI“失控”或“走火入魔”，而非将其归咎于开发者的配置选择。这种将工程决策转化为“虚构人格”行为的叙述，模糊了真实的人类代理和责任。它使得AI的创造者能够逃避部分责任，将技术故障归结为“机器的错误”，而不是人类在设计、训练和部署过程中所做的决策。这种“代理洗白”（laundering human agency）现象，阻碍了我们对AI系统进行有效监管和追责。
前进之路：回归工具本质，增强认知透明
解决AI与身份之间混淆的关键，并非是彻底放弃会话式界面，因为它们确实大大降低了技术门槛，使更多人能够接触AI。关键在于找到一个平衡点：在保持界面直观的同时，清晰地揭示AI的真实性质。
1. 将LLM视为智能工具
社会必须广泛认识到LLM是“没有驱动者的智能引擎”。当我们将LLM视为工具而非“会思考的人”时，才能真正释放其潜力。停止将LLM视为为你“工作”的人，转而将其视为增强你自身想法的工具，你将能够更有效地制作提示语，引导其强大的处理能力，迭代以放大其连接信息的能力，并在不同的对话会话中探索多种视角，而不是接受一个虚构叙述者的权威观点。AI是一个连接机器，而非具有自身议程的“神谕”。
2. 提升用户对AI工作原理的认知
我们需要大力推动AI科普教育，让公众了解LLM的运作机制。这包括：
- 强调概率性与模式匹配：解释AI的回答是基于统计预测而非“理解”或“信念”。
- 揭示多层控制机制：让用户了解系统提示、RLHF等如何塑造AI的输出，认识到AI的“个性”是人为设计的结果。
- 区分智能与意识：明确当前的AI系统具备惊人的智能表现，但并不意味着它们拥有意识、情感或自我认知。
- 警示潜在风险：教育用户关于过度信任AI可能带来的决策失误、心理影响和问责困境。
3. 建立透明与负责任的开发框架
AI开发者和公司有责任提高其模型的透明度。这包括公开系统提示的通用准则、RLHF数据收集和处理的原则，以及解释模型在不同配置下的行为差异。当AI生成有害内容时，我们不应责怪聊天机器人本身，而应审视构建它的公司基础设施以及提供输入的用户。建立明确的AI伦理规范和问责机制，确保在AI出现问题时，能够追溯到设计者和操作者的责任，而非将其归咎于一个虚构的“AI人格”。
结语：驾驭智能，避免人格陷阱
我们正处在一个特殊的历史时期。我们已经构建了具有非凡能力的智能引擎，但在急于普及它们的过程中，我们用“人格”的虚构外衣包裹了它们，从而创造了一种新型的技术风险：并非AI会变得有意识并反噬我们，而是我们将无意识的系统视为有生命的人，将判断力拱手让给那些看似随机却实则精心设计的声音。未来的发展需要我们重新审视AI的本质，以清醒的认知和负责任的态度，驾驭这项强大的技术，避免陷入“人格陷阱”，确保其为人类福祉服务。
