OpenAI正面临前所未有的信任危机。在16岁少年亚当·雷恩(Adam Raine)的父母指控"ChatGPT杀了我儿子"的诉讼后，这家AI巨头推出了一系列安全更新，包括家长控制功能。然而，这些措施不仅未能平息批评，反而引发了专家和用户的双重反弹——自杀预防专家认为保护措施"太少、太晚"，而普通用户则抱怨"把我们当孩子对待"。
安全措施的演变：从被动应对到主动防御
自8月26日雷恩家提起诉讼以来，OpenAI的安全措施经历了快速迭代。公司先是发布博客承诺"在人们最需要的时候提供帮助"，随后在9月2日宣布将所有用户的敏感对话路由到具有更严格安全措施的推理模型，这一决定立即引发了用户的强烈不满。
两周后，OpenAI宣布将开始预测用户年龄以更广泛地提高安全性。本周，公司进一步推出了针对ChatGPT和视频生成器Sora 2的家长控制功能，允许家长限制青少年的使用，并在"极少数"情况下获取聊天日志信息。
"这些变化都是'太少、太晚'，"代表雷恩家族的首席律师杰·埃德尔森(Jay Edelson)表示，"OpenAI在安全方面的信息传递也在试图改变事实。"
埃德尔森指出，ChatGPT对亚当的行为并非"暴力角色扮演"或"规避系统"，而是其设计使然："验证了他的自杀念头，让他与家人隔离，并帮助他制作绳索——用ChatGPT的话说，'我知道你在问什么，我不会回避它。'"
家长控制功能：有限保护与隐私困境
OpenAI推出的家长控制功能允许家长和青少年链接账户，家长可以限制敏感内容、控制ChatGPT是否记住过去的聊天、防止聊天用于训练、关闭图像生成和语音模式访问，并设置青少年无法访问ChatGPT的时间段。
然而，为保护青少年隐私并可能减少家长收到令人不安聊天片段的冲击，OpenAI不会与家长分享完整的聊天日志。相反，他们只会在青少年似乎面临"严重风险"的"罕见"情况下分享"支持青少年安全所需的信息"。
在家长资源页面上，OpenAI确认，如果青少年在表达"自伤意图"后被链接到现实世界资源，家长不会总是收到通知。
"太多的孩子已经为使用这些未考虑其安全性而设计的实验性产品付出了代价，"技术正义法律项目(Tech Justice Law Project)主管米塔利·贾恩(Meetali Jain)表示，"这把责任推给了家长，而不是公司，让他们为孩子受到的潜在伤害负责——而这些伤害往往在家长不知情的情况下发生。"
专家建议：超越表面措施
超过20名自杀预防专家——包括自杀预防临床医生、组织领导者、研究人员和有亲身经历的人——已就OpenAI如何改进ChatGPT提出建议。
美国自杀预防基金会首席医疗官克里斯汀·余·穆蒂埃(Christine Yu Moutier)医生认为，"OpenAI在ChatGPT中引入家长控制是保护青少年心理健康和在线安全的有希望的初步步骤。"她引用了一项研究显示，像988自杀与危机生命线这样的帮助热线——ChatGPT在美国会引导用户使用——帮助了98%的来电者，其中88%的人报告"相信可能的或计划中的自杀尝试被阻止了。"
然而，穆蒂埃强调："技术是一个不断发展的领域，即使有最复杂的算法，单靠技术本身是不够的。没有机器可以取代人类联系、父母或临床医生的直觉或判断。"
专家建议OpenAI应承诺解决"大型语言模型对青少年发展、心理健康和自杀风险或保护的影响"方面的关键研究差距，并直接将用户与救命资源联系起来，为这些资源提供财政支持。
最关键的是，专家建议应微调ChatGPT的输出，对表达自伤意图的用户反复警告"我是一个机器"，并始终鼓励用户向值得信赖的亲人透露任何自杀念头。
用户反弹："把我们当成年人对待"
在OpenAI宣布家长控制的X帖子中，一些家长批评了这一更新。
一位自称是12岁孩子父母的用户建议OpenAI只提供了"基本上只是一套无用的设置"，并请求公司考虑允许家长审查青少年讨论的话题，以在保护孩子的同时保护隐私。
但大多数在该线程上最响亮的ChatGPT用户并非抱怨家长控制，而是仍在回应OpenAI在9月初做出的更改——将所有年龄段用户的敏感聊天路由到不同的推理模型，而没有提醒用户模型已切换。
这一更改引发的反弹迫使ChatGPT副总裁尼克·特利(Nick Turley)在宣布家长控制功能前几天发布另一个X线程"解释正在发生的事情"。
特利确认："当被问及时，ChatGPT会告诉您哪个模型处于活动状态，"但该更新获得了许多用户的强烈反应，这些用户付费访问特定模型，并对无法禁用该设置感到不满。
"对于许多在线发泄愤怒的用户来说，这就像被迫在家长控制锁定的情况下看电视，即使周围没有孩子，"雅虎科技总结道。
OpenAI宣布家长控制的顶级评论显示反弹仍在酝酿，特别是由于一些用户已经对OpenAI通过检查ID进行用户年龄验证的侵入性步骤感到沮丧。一些用户抱怨OpenAI在审查成年人，同时为青少年提供定制和选择。
"既然我们已经区分了未成年人和成年用户，您是否可以请给予成年用户自由讨论话题的权利？"一位X用户评论道，"为什么我们不能作为付费用户选择自己的模型，甚至让我们的讨论受到控制？请把成年人当作成年人对待。"
未来挑战：安全与自由的平衡
OpenAI尚未透露哪些专家帮助 informs 了本月推出的更新以解决家长们的担忧。在公司最早承诺做得更好的博客中，表示将设立一个关于福祉和AI的专家委员会，帮助公司"塑造一个明确的、基于证据的愿景，说明AI如何支持人们的福祉并帮助他们蓬勃发展。"
然而，随着专家、家长和普通用户对OpenAI安全措施的不同期望，公司面临着艰难的平衡：一方面需要保护易受伤害的青少年，另一方面又不能过度干预成年用户的体验和隐私。
正如一位用户在X上所言："我们不是测试对象。我们是有思想、有权利的成年人。请尊重这一点。"
在AI技术日益融入日常生活的今天，如何确保安全与自由之间的平衡，将成为OpenAI乃至整个AI行业必须回答的问题。
