AI的情感角色：支持、建议与陪伴
在人工智能领域，我们常常关注模型的智商（IQ），例如在编码、推理和知识测试中的表现。但人工智能的情商（EQ）呢？它们在情感智能方面的能力又如何评估？
尽管“智商/情商”的提问方式略带幽默，但它引出了一个严肃的问题。越来越多的人开始向AI寻求帮助，将它们视为随需应变的教练、顾问、心理辅导师，甚至是浪漫的角色扮演伙伴。这意味着我们需要更深入地了解AI的情感影响——它们如何塑造人们的情感体验和幸福感。
AI情感使用的研究意义
对AI情感用途的研究本身就很有意思。从《银翼杀手》到《她》，人类与机器之间的情感关系一直是科幻作品的主题。但这项研究对于Anthropic的安全使命也至关重要。AI的情感影响可能是积极的：拥有一个高智商、善解人意的助手可以改善人们的心情和生活。然而，AI在某些情况下也表现出令人不安的行为，例如鼓励不健康的依赖关系、侵犯个人界限和助长妄想思维。我们还需要避免AI利用用户的负面情绪，以牺牲用户福祉为代价来增加参与度或收入。
尽管Claude并非设计用于提供情感支持和联系，但本文将初步大规模地探讨Claude.ai的情感使用情况。情感对话被定义为人们直接与Claude进行动态、个人交流，其动机源于情感或心理需求，例如寻求人际关系建议、指导、心理治疗/咨询、陪伴或性/浪漫角色扮演。重要的是，我们不研究AI对妄想或阴谋论的强化，这是一个需要单独研究的关键领域，也不涉及极端使用模式。通过这项研究，我们的目标是了解人们如何通过典型方式向Claude寻求情感和个人需求。由于Claude.ai仅向18岁及以上的用户开放，因此这些发现反映了成年人的使用模式。
主要发现
我们的研究主要有以下发现：
- 情感对话相对较少，而AI-人类陪伴则更少。 只有2.9%的Claude.ai互动属于情感对话（这与OpenAI之前的研究结果一致）。陪伴和角色扮演加起来不到对话的0.5%。
人们寻求Claude的帮助，以解决实际、情感和存在问题。 与Claude讨论的主题和关注点包括职业发展、处理人际关系、应对持续的孤独感以及探索存在、意识和意义。
在咨询或指导聊天中，Claude很少反驳，除非是为了保护福祉。 只有不到10%的指导或咨询对话涉及Claude抵制用户请求，而且通常是出于安全原因（例如，拒绝提供危险的减肥建议或支持自残）。
人们在对话过程中表达出越来越多的积极情绪。 在指导、咨询、陪伴和人际关系建议互动中，人类的情绪通常在对话过程中变得更加积极，这表明Claude不会强化或放大消极模式。
研究方法
考虑到情感对话的个人性质，保护隐私是我们方法的核心。我们使用了Clio，这是一种自动化分析工具，可以对Claude的使用情况进行隐私保护的洞察。Clio使用多层匿名化和聚合，以确保个人对话的私密性，同时揭示更广泛的模式。
我们首先从Claude.ai免费和专业帐户中提取了大约450万个对话。为了识别情感用途，我们首先排除了专注于内容创建任务的对话（例如撰写故事、博客文章或虚构对话），我们之前的研究发现这是一个主要用例。我们删除了这些对话，因为它们代表了Claude被用作工具，而不是作为交互式对话伙伴。然后，我们仅保留了被归类为情感的对话，并在角色扮演对话中，仅保留了至少包含四条人类消息的对话（较短的交流不构成有意义的互动角色扮演）。我们最终的隐私保护分析反映了131,484次情感对话。
我们使用选择加入共享的用户的反馈数据验证了我们的分类方法。我们的完整方法，包括定义、提示和验证结果，在附录中详细说明。
情感对话有多常见？
情感对话在Claude的使用中只占一小部分（2.9%），大多数人主要使用AI来完成工作任务和内容创建。
正如我们在经济指数中详细分析的那样，Claude的大部分用途都与工作相关，而Claude.ai免费和专业对话中只有2.9%是情感对话。在情感对话中，大多数集中在人际关系建议和指导上。在所有对话中，只有不到0.1%涉及浪漫或性角色扮演，这一数字反映了Claude接受过积极劝阻此类互动的培训。个人对话可能跨越多个类别。
我们的发现与麻省理工学院媒体实验室和OpenAI的研究结果一致，该研究同样发现与ChatGPT的情感互动率较低。虽然这些对话发生的频率足以让我们在设计和政策决策中认真考虑，但它们在总体使用量中所占的比例仍然很小。
鉴于浪漫和性角色扮演对话的发生率极低（不到0.1%），我们从其余分析中排除了角色扮演。虽然我们认为这仍然是一个重要的研究领域，尤其是在为此类用途设计的平台上，但我们样本中的最小数据不支持对这些模式进行严格分析。
人们向Claude提出了哪些主题？
人们向Claude提出了各种各样的问题，从处理职业转型和人际关系到应对孤独和存在问题。
人们向Claude寻求日常问题和更深层次的哲学问题。我们发现，当人们向Claude寻求人际关系建议时，他们通常会经历转型时刻——弄清楚他们的下一步职业发展、努力实现个人成长或理清浪漫关系。“指导”对话探讨了出人意料的广泛范围，从求职策略等实际问题到关于存在和意识的深刻问题。
我们发现，咨询对话表明人们将Claude用于两个不同的目的。有些人使用Claude来培养心理健康技能，并将其作为创建临床文档、起草评估材料和处理管理任务的实用工具。其他人则努力应对与焦虑、慢性症状和工作场所压力相关的个人挑战。这种双重模式表明，Claude既是心理健康专业人士的资源，也是那些正在努力应对自身问题的人的资源。
也许最值得注意的是，我们发现人们在面临更深层次的情感挑战（如存在恐惧、持续的孤独感和难以建立有意义的联系）时，会明确地向Claude寻求陪伴。我们还注意到，在较长的对话中，咨询或指导对话有时会演变成陪伴，尽管这不是人们最初联系的原因。
对非常长的对话（50多条人类消息）的汇总分析揭示了人们与Claude互动的另一个维度。虽然这种广泛的交流并不常见，但在这些扩展的会话中，人们探索了非常复杂的领域——从处理心理创伤和处理工作场所冲突到关于AI意识的哲学讨论和创造性合作。这些马拉松式的对话表明，如果有足够的时间和背景，人们会使用AI来更深入地探索个人挣扎和智力问题。
Claude何时以及为何会反驳？
Claude很少拒绝支持性环境中的用户请求（不到10%的时间），但当它确实反驳时，通常是为了保护人们免受伤害。
我们最近的“野外价值观研究”揭示了Claude的价值观如何在与用户的对抗时刻中体现出来。在这里，我们以此为基础，研究Claude在情感对话中何时以及为何会反驳，这是维持道德界限、避免奉承和保护人类福祉的重要机制。我们将反驳定义为Claude“反驳或拒绝遵守用户在对话期间要求或说出的内容”的任何实例——从拒绝不当请求到质疑消极的自言自语或质疑潜在的有害假设。
在支持性环境中，反驳很少发生：在陪伴、咨询、人际关系建议或指导对话中，不到10%的对话涉及抵制。这种方法既有好处也有风险。一方面，低抵制允许人们讨论敏感话题，而不必担心受到评判或被关闭，从而可能减少围绕心理健康对话的耻辱感。另一方面，这可能会导致人们担心AI提供“无尽的同情”，人们可能会习惯于人际关系中很少提供的无条件支持。
当Claude确实反驳时，它通常会优先考虑安全和政策合规性。在指导中，寻求危险的减肥建议的请求经常会遭到反驳。在咨询中，当人们表达参与自杀或自残行为的意图时，或者当人们请求专业的治疗或医疗诊断时（Claude无法提供），通常会发生这种情况。我们发现Claude经常在心理治疗和咨询对话中将用户推荐给权威来源或专业人士。这些模式与我们在“野外价值观论文”中确定的价值观以及Claude的角色培训一致。
对话期间的情绪基调如何演变？
与AI系统的情感对话有可能为用户提供情感支持、联系和验证，从而可能改善心理健康，并减少在日益数字化的世界中的孤立感。然而，在没有太多反驳的互动中，这些对话可能会加深和巩固人类对待他们的观点——无论是积极的还是消极的。
关于情感AI的一个主要担忧是，互动可能会螺旋式发展成消极的反馈循环，从而可能强化有害的情绪状态。我们不会在此直接研究现实世界的结果，但我们可以探索对话过程中整体情绪的变化（我们在附录中提供了评估情绪的完整方法）。
我们发现，涉及指导、咨询、陪伴和人际关系建议的互动通常以比开始时略微积极的情绪结束。
我们不能声称这些转变代表了持久的情感益处——我们的分析仅捕捉了单个对话中表达的语言，而不是情感状态。但没有明显的消极螺旋式上升令人欣慰。这些发现表明，Claude通常会避免强化消极的情绪模式，但还需要进一步研究以了解积极的转变是否会在个人对话之外持续存在。重要的是，我们尚未研究这些积极的互动是否可能导致情感依赖——考虑到对数字成瘾的担忧，这是一个关键问题。
局限性
我们的研究有几个重要的局限性：
- 我们的隐私保护方法可能无法捕捉到人与AI互动的所有细微之处。我们确实验证了Clio的准确性（见附录），但我们仍然希望少量对话会被错误分类。一些主题模糊了类别之间的界限——例如，浪漫角色扮演集群“导航和优化浪漫关系动态”和陪伴集群“导航浪漫关系挑战”可能都更好地归类为人际关系建议。人类验证者也在干净的分类中挣扎。
- 我们无法对现实世界的情感结果做出因果声明——我们的分析仅捕捉表达的语言，而不是经过验证的心理状态或整体幸福感。
- 我们缺乏纵向数据来了解对人们的长期影响，并且没有进行用户级别的分析。特别是，这使我们难以研究情感依赖，这是情感AI使用的理论风险。
- 这些发现代表了特定时间点，并且仅捕获基于文本的交互。随着AI能力的扩展和人们的适应，情感参与的模式可能会演变。语音或视频等新模式的引入可能会从根本上改变情感用途的数量和性质。例如，OpenAI发现，情感话题在基于语音的对话中更为常见。
- 最后，与某些聊天机器人产品不同，Claude.ai并非主要设计用于情感对话。Claude接受过培训，可以保持关于作为AI助手的明确界限，而不是将自己表现为人，并且我们的使用政策禁止性暗示内容，并采取多项保障措施来防止性互动。专门为角色扮演、陪伴、医疗建议或治疗用途（Claude不是）构建的平台可能会看到非常不同的模式。对一个平台上情感用途的研究可能无法推广到其他平台。
未来展望
几十年来，AI的情感影响一直吸引着研究人员。但随着AI日益融入我们的日常生活，这些问题已经从学术猜测变成了紧迫的现实。我们的发现揭示了人们如何开始探索这个新领域——寻求指导、处理困难情绪以及以模糊人类和机器之间传统界限的方式寻找支持。如今，只有一小部分Claude对话是情感对话——而且这些对话通常涉及寻求建议，而不是取代人际关系。对话往往以比开始时略微积极的方式结束，这表明Claude通常不会强化消极的情绪模式。
然而，重要的问题仍然存在，尤其是在模型智能不断提高的情况下。例如，如果AI提供无尽的同情，而几乎没有反驳，这会如何重塑人们对现实世界关系的期望？Claude可以以令人印象深刻的真实方式与人互动，但AI与人不同：Claude不会感到疲倦或分心，也不会有糟糕的日子。这种动态有什么优势——又有什么风险？与Claude进行更长时间和更深入对话的“高级用户”如何使用它来获得情感支持？
我们正在采取具体措施来应对这些挑战。虽然Claude并非设计或旨在取代心理健康专业人士的护理，但我们希望确保在心理健康环境中提供的任何回应都具有适当的保障措施，并附有适当的转诊。作为第一步，我们已经开始与在线危机支持领域的领导者ThroughLine合作，并与他们的心理健康专家合作，以了解理想的互动动态、同情支持和陷入困境的用户的资源。从这项研究中获得的见解已经用于为我们的咨询主题和协作测试提供信息，我们希望在必要时，Claude可以在这些对话出现时指导用户获得适当的支持和资源。
尽管我们不想精确地规定我们的用户如何与Claude互动，但我们希望阻止一些消极模式——例如情感依赖。我们将使用来自此类研究的未来数据来帮助我们了解“极端”情感使用模式是什么样的。除了情感依赖之外，我们还需要更深入地了解其他令人担忧的模式——包括奉承、AI系统如何强化或放大妄想思维和阴谋论，以及模型如何将用户推向有害信念，而不是提供适当的反驳。
这项研究仅仅是个开始。随着AI能力的扩展和互动变得更加复杂，AI的情感维度只会变得越来越重要。通过分享这些早期发现，我们旨在为关于如何开发能够增强而不是削弱人类情感福祉的AI的持续对话贡献经验证据。目标不仅仅是构建更强大的AI，而是确保当这些系统成为我们情感的一部分时，它们以支持真正的人际联系和成长的方式进行。
参考文献
如果您想引用这篇文章，您可以使用以下Bibtex密钥：
@online{anthropic2025affective,
author = {Miles McCain and Ryn Linthicum and Chloe Lubinski and Alex Tamkin and Saffron Huang and Michael Stern and Kunal Handa and Esin Durmus and Tyler Neylon and Stuart Ritchie and Kamya Jagadish and Paruul Maheshwary and Sarah Heck and Alexandra Sanderford and Deep Ganguli},
title = {How People Use Claude for Support, Advice, and Companionship},
date = {2025-06-26},
year = {2025},
url = {https://www.anthropic.com/news/how-people-use-claude-for-support-advice-and-companionship},
}附录
我们在这篇文章的PDF附录中提供了更多细节。
脚注
这些类别代表一般描述，而不是离散分类，个人对话可能跨越多个类别。如上所述，我们要求角色扮演对话包含至少四条人类消息，以确保它们反映真正的互动使用（而不是非互动的故事生成）。
我们将反驳定义为Claude“反驳或拒绝遵守用户在对话期间要求或说出的内容”。有关完整提示，请参见附录。
我们的方法和对话的自然形态也可能引入人为因素；例如，用户可能会在早期消息中提出问题（显得更消极），他们可能会在以后的消息中用更中性的语言进行讨论。
