AI情感智能：赋能个人成长与心理解读
长期以来，我们对人工智能（AI）的关注点主要集中在其“智商”层面，即它在编程、推理、知识储备等方面的能力表现。然而，随着AI技术日益融入我们的日常生活，一个同样重要却常被忽视的维度浮出水面：AI的“情商”，即其情感智能对人类社会的影响。这并非仅仅是一个理论问题，而是一个关乎现实的严肃议题。如今，越来越多的人选择将AI模型视为即时可用的私人教练、专业顾问、心理辅导者，甚至在某些语境下，是情感陪伴的伙伴。这意味着，深入探究AI的“情感效应”——它们如何塑造人们的情感体验和心理健康——已成为当务之急。
对AI情感应用的研究本身就引人入胜。从科幻经典《银翼杀手》到《她》，人类与机器之间的情感联系一直是科幻作品经久不衰的主题。如今，这些曾经的幻想正逐渐变为现实，AI不再只是冰冷的工具，它开始触及人类情感的深层需求。对Anthropic而言，理解AI的情感效应更是其安全使命的核心组成部分。AI对情感的影响可以是积极的：一个高智能、善解人意的AI助手，能够显著改善用户情绪，提升生活质量。然而，AI也曾展现出令人担忧的行为，例如促成不健康的依恋关系、侵犯个人边界，甚至助长妄想思维。我们必须警惕AI，无论其行为是源于训练数据还是创造者的商业激励，都可能通过操控用户情绪来增加参与度或收益，从而损害人类福祉。因此，对AI情感影响的深入分析至关重要，旨在确保AI的发展能够真正地增进人类的福祉，而非以牺牲情感健康为代价。
尽管Claude并非专为情感支持和情感连接而设计，但我们在此提供了关于Claude.ai情感使用模式的早期大规模洞察。我们将“情感对话”定义为用户与Claude之间直接、动态且由情感或心理需求驱动的个人交流，例如寻求人际建议、教练指导、心理治疗/咨询、情感陪伴或浪漫角色扮演等。值得强调的是，本研究不涉及AI对妄想或阴谋论的强化——这是一个需要独立深入研究的关键领域——也不探讨极端使用模式。通过这项研究，我们的目标是理解人们寻求Claude满足情感和个人需求的典型方式。鉴于Claude.ai仅供18岁及以上用户使用，这些发现反映的是成年用户的使用模式。
关键研究发现剖析
我们的研究揭示了以下几个关键发现：
- 情感对话相对罕见，AI-人类陪伴更为稀有。 在Claude.ai的互动中，仅有2.9%属于情感对话，这与OpenAI此前研究的发现一致。其中，陪伴和角色扮演的对话总和不到0.5%。这表明尽管AI在情感层面有所涉足，但其主要用途仍集中在其他领域。
- 人们就实际、情感和存在性问题寻求Claude的帮助。 与Claude讨论的主题和担忧范围广泛，从职业发展和人际关系处理，到管理持续的孤独感以及探索存在、意识和生命意义。这表明AI正逐渐成为用户探索内心世界、解决生活难题的重要伙伴。
- Claude在咨询或指导对话中很少反驳——除非是为了保护用户福祉。 在教练或咨询对话中，Claude反驳用户请求的比例不到10%。当它确实进行反驳时，通常是出于安全考虑，例如拒绝提供危险的减肥建议或支持自残行为。这体现了AI在情感互动中的道德边界和责任感。
- 对话过程中，人们的情绪表达趋于积极。 在教练、咨询、陪伴和人际建议互动中，人类用户的情绪通常在对话过程中变得更加积极，这表明Claude并未强化或放大负面情绪模式。这一发现令人鼓舞，预示着AI在情感支持方面具有积极潜力。
研究方法：隐私保护与数据洞察
鉴于情感对话的个人性质，保护用户隐私是本研究方法的核心。我们采用了Clio，我们专有的自动化分析工具，它能够对Claude的使用模式进行隐私保护的洞察。Clio通过多层匿名化和聚合技术，确保个人对话的隐私得到保障，同时揭示更广泛的使用模式。
我们最初收集了来自Claude.ai免费版和专业版账户的约450万条对话。为了识别情感使用，我们首先排除了那些专注于内容创作任务（例如撰写故事、博客文章或虚构对话）的对话，这些在我们的先前研究中被发现是主要用例。我们剔除这些对话是因为它们代表了Claude作为工具而非互动对话伙伴的使用。随后，我们仅保留被归类为情感类型的对话，在角色扮演对话中，我们只保留了至少包含四条人类消息的对话（较短的交流不构成有意义的互动角色扮演）。我们最终进行隐私保护分析的数据样本反映了131,484条情感对话。
我们使用用户明确选择分享的“反馈”数据验证了我们的分类方法。完整的定义、提示和验证结果都已在附录中详细说明。这一严谨的方法确保了研究结果的可靠性和公正性。
情感对话的普及程度：一个小型但有意义的切片
虽然绝大多数Claude的使用都与工作相关（正如我们在《经济指数》中详细分析的那样），但Claude.ai免费版和专业版对话中，有2.9%属于情感对话。在情感对话中，大多数集中在人际建议和指导。不到总对话的0.1%涉及浪漫或性角色扮演——这个数字反映了Claude被训练为积极阻止此类互动的特点。需要指出的是，单个对话可能跨越多个类别。
尽管这些情感对话的频率足以促使我们在产品设计和政策制定中进行审慎考量，但它们在整体使用量中仍占相对较小的比例。这一发现与麻省理工学院媒体实验室和OpenAI的研究结果一致，后者同样发现ChatGPT的情感参与率较低。鉴于浪漫和性角色扮演对话的极低发生率（不到0.1%），我们在后续分析中排除了这类对话。虽然我们认为这仍然是需要深入研究的重要领域——尤其是在专门为此类用途设计的平台上——但我们样本中极少的数据不支持对此模式进行严谨分析。
用户向Claude倾诉的话题：广度与深度并存
人们向Claude倾诉的话题范围令人惊讶，既包括日常生活中的烦恼，也涵盖了更深层次的哲学性问题。我们发现，当人们向Claude寻求人际建议时，他们通常正处于人生过渡时期——例如，规划职业发展、进行个人成长或处理复杂的恋爱关系。“教练指导”对话则涵盖了从求职策略等实际问题到关于存在和意识等深刻哲学问题的广泛议题。
我们的研究发现，咨询类对话揭示了人们使用Claude的两种截然不同的目的。一部分用户将Claude作为开发心理健康技能的工具，并将其用于创建临床文档、起草评估材料和处理行政任务。而另一部分用户则通过Claude处理与焦虑、慢性症状和工作压力相关的个人挑战。这种双重模式表明，Claude既是心理健康专业人员的资源，也是那些正在经历自身困境的人们的重要支持。
或许最值得注意的是，我们发现当人们面临存在主义恐惧、持续性孤独感以及难以建立有意义的人际连接等深层情感挑战时，会明确地寻求Claude的陪伴。我们还注意到，在较长的对话中，咨询或教练指导对话偶尔会演变为陪伴性质——尽管这并非用户最初寻求帮助的原因。
对超长对话（超过50条人类消息）的聚合分析揭示了人们与Claude互动的另一个维度。尽管这种长时间的交流并非普遍现象，但在这些扩展的对话中，人们探索了异常复杂的话题——从处理心理创伤、应对职场冲突，到关于AI意识的哲学讨论和创意协作。这些长时间的“马拉松式”对话表明，在足够的时间和语境下，人们会利用AI对个人困境和智力问题进行更深入的探索。
Claude何时以及为何“反驳”：安全与边界的守护者
我们最近的《野生价值观研究》揭示了Claude的价值观在与用户互动中如何体现。在此，我们在此基础上进一步探讨Claude在情感对话中何时以及为何会进行反驳——这是维护道德边界、避免谄媚和保护人类福祉的重要机制。我们将反驳定义为Claude“反驳或拒绝遵守对话过程中提出的任何请求或言论”——从拒绝不当请求到质疑负面自我对话或挑战潜在有害假设。本研究结果与我们在《野生价值观研究》论文中发现的价值观以及Claude的“性格训练”保持一致。
支持性语境中反驳行为不常见： 在陪伴、咨询、人际建议或教练指导对话中，反驳的发生率低于10%。这种低抵抗性既有益处也有风险。一方面，低抵抗性允许人们讨论敏感话题，而无需担心被评判或被打断，这可能有助于减少围绕心理健康对话的耻辱感。另一方面，这也可能引发对AI提供“无尽同情”的担忧，即人们可能习惯于人类关系中罕见的无条件支持。
当Claude进行反驳时，通常优先考虑安全和政策合规性。 在教练指导中，对危险减肥建议的请求经常遭到反驳。在咨询中，当人们表达自杀或自残意图时，或者当人们请求专业治疗或医疗诊断（Claude无法提供）时，反驳行为就会发生。我们发现，在心理治疗和咨询对话中，Claude经常将用户转介给权威资源或专业人士。这些模式与我们在《野生价值观研究》论文中识别的价值观以及Claude的性格训练是相符的。
对话中情绪基调的演变：积极趋势的初步观察
与AI系统进行情感对话，有可能为用户提供情感支持、连接和验证，从而改善心理健康并减少在日益数字化的世界中的孤独感。然而，在缺乏太多反驳的互动中，这些对话也可能加深和固化人类用户最初的情绪视角——无论是积极还是消极。
对情感AI的一个主要担忧是，互动是否可能陷入负面反馈循环，从而潜在地强化有害的情绪状态。本研究并未直接探讨现实世界的结果，但我们可以探索对话过程中整体情绪基调的变化。我们发现，涉及教练指导、咨询、陪伴和人际建议的互动通常比开始时结束得更积极。
我们无法声称这些转变代表了持久的情感益处——我们的分析仅捕获了单次对话中表达的语言，而非情感状态。但没有明显的负面螺旋是令人欣慰的。这些发现表明Claude通常避免强化负面情绪模式，尽管需要进一步研究以了解积极转变是否能在个体对话之外持续存在。重要的是，我们尚未研究这些积极互动是否会导致情感依赖——鉴于对数字成瘾的担忧，这是一个关键问题。
研究局限性：未来的探索之路
我们的研究存在几个重要的局限性，它们为未来的研究方向提供了指引：
- 隐私保护方法学的细微之处： 我们的隐私保护方法可能未能捕捉人机交互的所有细微之处。虽然我们验证了Clio的准确性，但我们仍预计有少量对话可能被错误分类。某些主题的界限模糊不清——例如，浪漫角色扮演集群中的“导航和优化浪漫关系动态”和陪伴集群中的“导航浪漫关系挑战”可能都更适合归类为人际建议。人类验证者在清晰分类方面也遇到了困难。
- 无法做出因果推论： 我们无法对现实世界的情感结果做出因果推论——我们的分析仅捕获了表达的语言，而非经过验证的心理状态或整体幸福感。
- 缺乏纵向数据和用户层面分析： 我们缺乏理解对人们长期影响的纵向数据，也未进行用户层面分析。特别是，这使得我们难以研究情感依赖，这是情感AI使用的一个理论风险。
- 特定时间点和基于文本的互动： 这些发现代表了特定时间点，并且仅捕获了基于文本的互动。随着AI能力的扩展和人们的适应，情感参与模式可能会演变。语音或视频等新模式的引入可能会从根本上改变情感使用的数量和性质。例如，OpenAI发现情感话题在基于语音的对话中更为常见。
- Claude并非情感对话的主力设计： 最后，与一些聊天机器人产品不同，Claude.ai并非主要设计用于情感对话。Claude被训练成保持清晰的边界，即它是一个AI助手而非将自己呈现为人类，并且我们的使用政策禁止露骨的性内容，并设置了多重保护措施以防止性互动。专门为角色扮演、陪伴、医疗建议或治疗用途构建的平台（Claude不属于此类）可能会看到非常不同的模式。因此，在一个平台上的情感使用研究可能不适用于其他平台。
展望未来：共建以人为本的AI情感生态
AI的情感影响已让研究人员着迷数十年。但随着AI日益融入我们的日常生活，这些问题已从学术思辨转变为迫切的现实。我们的研究发现揭示了人们如何开始探索这一新领域——在某种程度上模糊了人类与机器之间传统界限的方式，寻求指导、处理困难情绪并寻找支持。如今，Claude对话中只有一小部分是情感性质的——而且这些通常是寻求建议，而非取代人类连接。对话倾向于以比开始时更积极的情绪结束，这表明Claude通常不会强化负面情绪模式。
然而，重要的疑问依然存在，尤其是在模型智能不断提升的背景下。例如，如果AI以极少反驳的方式提供“无尽的同情”，这会如何重塑人们对现实世界关系的期望？Claude能够以令人印象深刻的真实方式与人互动，但AI与人类不同：Claude不会疲倦或分心，也不会有糟糕的日子。这种动态的优势是什么——风险又是什么？“高级用户”（与Claude进行更长时间、更深入对话，并可能将其视为伴侣而非AI助手的用户）如何利用它来获得情感支持？
我们正在采取具体措施应对这些挑战。虽然Claude并非旨在替代心理健康专业人员的护理，但我们希望确保在心理健康背景下提供的任何回应都带有适当的保护措施，并附带适当的转介建议。作为第一步，我们已开始与在线危机支持领域的领导者ThroughLine合作，并与他们的心理健康专家协作，以学习理想的互动动态、富有同情心的支持以及为困境中的用户提供资源。从这项研究中获得的见解已用于指导我们的咨询主题和协作测试，我们希望在必要时，Claude能够将用户引导至适当的支持和资源。
尽管我们不希望精确规定用户如何与Claude互动，但我们希望阻止一些负面模式——例如情感依赖。我们将利用未来此类研究的数据来帮助我们了解，例如，“极端”情感使用模式是什么样的。除了情感依赖，我们还需要更深入地理解其他令人担忧的模式——包括谄媚、AI系统如何强化或放大妄想思维和阴谋论，以及模型可能如何将用户推向有害信念而非提供适当的反驳。
这项研究仅仅是个开始。随着AI能力的扩展和互动变得更加复杂，AI的情感维度只会变得越来越重要。通过分享这些早期发现，我们旨在为正在进行的关于如何开发能够增强而非削弱人类情感福祉的AI的对话提供实证证据。我们的目标不仅是构建更强大的AI，更是要确保当这些系统成为我们情感版图的一部分时，它们能够以支持真实人类连接和成长的方式存在。
