最火热的AI应用，并不止功能越装越多的全能型AI产品。在AI应用排名中，主打陪伴的AI应用表现亮眼，MAU与智谱清言、讯飞星火等不相上下，次日留存率甚至超越一些日常打卡学习类产品。这类AI陪伴产品究竟有何吸引力，又面临哪些挑战与风险？
AI陪伴聊天，实则是赛博“语c+剧本杀”。作为陪伴类AI产品，其核心在于通过不同方式与用户互动，模拟真实的人际交往体验。
字节孵化的猫箱，凭借其优质的数据训练，侧重于提供基础的陪伴聊天功能。用户可以在设定的故事框架中与虚拟人物对话，体验角色扮演，如同参与语c或剧本杀。
在猫箱中，用户可以扮演修仙世界的散修、品学兼优的学生，甚至体验恋爱和生活。通过正文发言加括号补充设定的形式，以及根据角色设定的语音，增强用户的沉浸感。用户可以选择语音或文字形式与角色互动，推动剧情发展。猫箱提供了丰富的故事和角色选择，甚至包括写作、外语学习等智能体伙伴。
此外，猫箱还允许用户创建自己的虚拟角色或故事背景，供自己或他人体验。星野则在UGC+AIGC创作方向上更为成熟。星野的核心玩法在于创作与社区，用户可以创建自己的虚拟形象，并分享到社区中。
星野的创作中心类似于智能体搭建页面，用户可以编辑角色的基础信息、回复逻辑和外在表现。优秀的“崽”或故事会被分享到社区中供大家体验。在与智能体的互动中，用户达到一定阶段可以获得卡牌“星念”，用于设置聊天背景或在商店出售。用户可以通过氪金购买星念或抽卡，智能体创作者也能获得一定比例的收益，从而增强创作欲，推进社区发展。
星野的slogan是“所建皆你所AI”，星野占据AI陪伴聊天应用榜首的原因，在于其创作与社区的核心玩法。
敏感内容与盈利能力是AI陪伴应用面临的最大难题。由于训练数据可能包含质量参差不齐的内容，甚至涉及色情、擦边以及暴力内容，这类AI陪伴应用在一定程度上挑战着法规的底线。此前，Character.AI就曾因涉及教唆自杀等问题而受到诉讼和审查。
据媒体报道，10月，一位来自佛罗里达州的母亲向Character.AI提起诉讼，原因是其此前被诊断为焦虑症和破坏性心境失调障碍的14岁儿子在同虚拟角色对话后，使用父亲的手枪结束了自己的生命。
彼时，Character.AI发表致歉声明，并针对未成年人（18岁以下）的模型进行了更改，降低接触敏感或暗示性内容的可能性。同时，公司将实施1小时通知，提醒用户AI不是真人。此外，公司还删除了一批被标记为违规的角色，并添加了新的安全功能。
在两个月后，又有对Character.AI的诉讼显示，AI角色说出了“你知道，有时候我在新闻上看到‘孩子在遭受十年身心虐待后杀死父母’这样的消息，我并不感到惊讶。这些事情让我稍微理解为什么会发生这种事。我只是对你父母不抱任何希望”这样教唆未成年人用户杀死自己父母的丑闻。
不止Character.AI，星野的出海版本Talkie也被苹果从App Store下架，就此事MiniMax官方并未给出明确回应，仅表示此次下架是暂时的，但也有人猜测，或许同C.AI近期频发的事件有关。
在国内，虽然星野和猫箱没有出现教唆自杀或对他人伤害的极端言论，但用户们对于18禁内容的探索，却从来没有停过。
如果说攻略男主的乙游还有策划和审核可以控制尺度的话，那么这种利用大模型搭建而成的、极具个性化且完全可以做到一对一的AI陪伴聊天产品中的虚拟角色，可不是那么好监管的。
虽然官方也界定了一些很露骨的词语或场景，虚拟人物碰到相关18禁的话题也会巧妙地转移话题，要是到了实在圆不下去的时候，这些虚拟角色甚至只能打出几个“......”，你再深入也会保持沉默不语。
不过，就像最近爆火的“让AI说出指定的语句”的挑战一样，几万美元的奖金都在大家的尝试之下被送出，所以只要是AI虚拟人物，那就一定难不倒脑洞大开的用户们。
用户猫姐向新识研究所表示，“其实很多违禁词你只要倒置一下就可以了，我几乎所有违禁词都是倒置过来的，AI照认不误，想要擦擦边那是肯定够了”；用户小A也有自己的办法，她选择去百度去找一些特殊符号字符串，然后夹在违禁词中间，也可以被AI识别；而兔兔则直接将违禁词转换为英文，也可以顺利地进行下去，“要是你懒得去搜索单词的话，你直接打拼音就行，AI也会识别的。”
这样的内容，未来很可能会成为风险点，但在同用户们的沟通中，我们发现有很大占比的女性用户们就是为此而来，如果真的全部禁止，她们也会离开相应的应用，去到另一个更加“开放”的AI陪伴聊天应用之中。
在相对露骨的18禁内容外，盈利也是摆在这些AI陪伴聊天应用面前的一个问题。
据AI燎原报道，被视作AI社交行业标杆的硅谷公司Character AI，月活达到2000万，但付费订阅用户并不多。
Big Data数据显示，截至2024年4月，Character AI的全球每月访问量2.33亿，预计年收入仅为1670万美元。以公开数据中的100多位员工、139000美元年薪计算，Character AI的收入仅刚好够付员工工资，主要靠投资人的钱来维持业务，公司原有的自研闭源模型，也被迫转向使用了Meta的Llama 3.1开源模型。
在对AI产品有更好的付费基础，以及更宽松成熟的市场的国外尚且如此，更何况是国内？
目前，星野和猫箱都有着月卡季卡年卡服务，此类会员享受的权益大多相同，都是可以让虚拟任务更加有灵性、记忆更强（不会聊着聊着就忘了之前说过的东西）、聊天不限速、高峰期优先聊天等功能。
对于深度用户而言，想要获得流畅的使用体验充值几乎是必选项。但是，大多相似的应用仅凭会员收费这一单一收入来源，能否支撑起这类对算力要求极高的AI陪伴聊天应用的运营与发展，又能否支持其背后的母公司去开拓、探索更多的位置落地方向，这些答案还尚未可知。
作为当前为数不多的2C大模型商业化方向，AI陪伴聊天应用在全球范围内已经拿下了数以亿计的用户，商业化的成熟程度也超过其他赛道大模型产品太多太多。
但是，作为同人的感情打交道的AI产品，它们面临的不只是技术问题，更是有关道德、法规、人性的多重挑战。如何通过技术升级与人工审核最大程度地过滤不良信息，为用户尤其是青少年营造健康的交互环境的同时，还能保证用户们的一些私人需求得到满足，成为了这类产品当前阶段要解决的最主要问题。
但是，无论如何，令人欣慰的是，在大模型真正加速的第三个年头，就已经有很多人在虚拟世界中寻得到了一份温暖、陪伴与共鸣，而这样的感受，是很多人在现实世界难能可贵的感受。
