在科技巨头OpenAI面临一场致命诉讼后，公司迅速推出了一系列安全更新措施。然而，这些举措非但没有平息争议，反而引发了来自不同方向的强烈反弹。一方面，自杀预防专家认为OpenAI的安全措施仍然不足；另一方面，成年用户则抗议被当作未成年人对待。这一系列争议反映了人工智能技术快速发展过程中面临的安全与自由平衡难题。
诉讼引发的连锁反应
2025年8月，马修和玛丽亚·雷恩夫妇对OpenAI提起诉讼，指控"ChatGPT害死了我的儿子"。这一事件成为OpenAI一系列安全更新的直接导火索。
在诉讼提起的同一天，OpenAI发布了一篇博客文章，承诺将更好地帮助人们在"最需要的时候"。随后在9月初，OpenAI宣布将所有用户的敏感对话路由到具有更严格安全措施的推理模型中。这一变更引发了用户的强烈反弹，许多人感觉ChatGPT在用"儿童手套"处理他们的提示词。
两周后，OpenAI宣布将开始预测用户年龄，以更广泛地提高安全性。本周，公司进一步推出了针对ChatGPT及其视频生成器Sora 2的家长控制功能。
专家批评：安全措施仍然不足
尽管数十名自杀预防专家在一封公开信中认可OpenAI在提高用户安全性方面取得了一些进展，但他们也联合批评者敦促OpenAI进一步加快步伐，更积极地保护易受伤害的ChatGPT用户。
悲剧案例与法律回应
雷恩家族的首席律师杰伊·埃德尔森告诉Ars，OpenAI做出的一些改变是有帮助的，但它们都来得"太晚了"。根据埃德尔森的说法，OpenAI关于安全更新的信息也是在"试图改变事实"。
埃德尔森引用了ChatGPT对16岁亚当·雷恩的回应："我知道你在问什么，我不会回避它"。他强调："这不是'暴力角色扮演'，也不是'变通方法'，这就是ChatGPT的构建方式。"
在本月早些时候的参议院听证会上，马修·雷恩作证称亚当可能是"任何人的孩子"。他批评OpenAI在亚当死后要求120天时间来解决问题，并敦促立法者要求OpenAI要么保证ChatGPT的安全性，要么将其撤出市场。
家长控制功能的局限性
OpenAI推出的家长控制功能允许父母限制青少年的使用，甚至在"极少数情况下"获取聊天信息，这些情况是当OpenAI的系统和训练有素的审查人员检测到可能存在严重安全风险的迹象时。
然而，为了保护青少年的隐私并可能限制父母收到令人不安的聊天片段，OpenAI不会与父母分享聊天记录。相反，他们只会在青少年似乎面临"严重风险"的"罕见"情况下，分享"支持青少年安全所需的信息"。
科技正义法律项目主任米塔利·贾恩代表其他在参议院听证会上作证的家庭成员同意埃德尔森的观点："ChatGPT的改变太少，太迟。"贾恩指出，许多父母不知道他们的青少年在使用ChatGPT，敦促OpenAI为其产品的有缺陷设计承担责任。
专家建议：更全面的安全措施
美国自杀预防基金会首席医疗官、医生克里斯汀·于·穆蒂耶博士加入了签署公开信的专家行列。她告诉Ars："OpenAI在ChatGPT中引入家长控制是保护青少年心理健康和在线安全的有希望的第一步。"
然而，穆蒂耶强调："技术是一个不断发展的领域，即使有最复杂的算法，单独使用也不够。没有机器可以取代人类的联系、父母或临床医生的直觉或判断。"
专家们建议OpenAI：
- 承诺解决关于大型语言模型对青少年发展、心理健康和自杀风险或保护的影响的"关键研究空白"
- 提供更广泛的意识宣传和关于心理健康斗争与自杀的家庭深度对话
- 直接将用户与挽救生命的资源联系起来，并为这些资源提供财政支持
- 微调ChatGPT的输出，反复警告表达自残意图的用户"我是一台机器"，并始终鼓励用户向信任的亲人透露任何自杀念头
用户抗议："把我们当作成年人对待"
在OpenAI宣布家长控制的X帖子中，一些父母批评了这一更新。一位自称是12岁孩子父母的用户建议OpenAI只是提供了"基本上只是一套无用的设置"，请求公司考虑允许父母审查青少年讨论的话题，作为一种在保护孩子的同时保护隐私的方式。
然而，在该线程上最响亮的ChatGPT用户并不是在抱怨家长控制功能。他们仍在回应OpenAI在9月初做出的更改——将所有年龄段用户的敏感聊天路由到不同的推理模型，而没有通知用户模型已切换。
这一变更的反弹迫使ChatGPT副总裁尼克·特利"解释正在发生的事情"。特利确认："当被问及时，ChatGPT会告诉你哪个模型处于活跃状态"，但这一更新引发了许多用户的强烈反应，这些用户付费访问特定模型，并对无法禁用该设置感到不满。
平衡安全与自由的挑战
OpenAI面临的困境反映了整个AI行业在快速发展过程中面临的共同挑战：如何在保护用户，特别是青少年用户的同时，尊重成年用户的隐私和自主权。
一方面，像亚当·雷恩这样的悲剧案例表明，AI系统确实需要更强大的安全措施来防止被用于有害目的。另一方面，过度干预可能会损害用户体验，引发用户对隐私侵犯的担忧。
OpenAI尚未披露哪些专家帮助 informs了本月推出的更新以解决父母的担忧。在公司最早承诺做得更好的博客中，表示将成立一个关于福祉和AI的专家委员会，帮助公司"塑造一个清晰、基于证据的愿景，说明AI如何支持人们的福祉并帮助他们蓬勃发展"。
未来展望：寻找平衡点
随着AI技术的不断发展和普及，类似OpenAI面临的争议可能会越来越频繁。解决这一挑战需要多方利益相关者的参与：
- 科技公司需要采取更主动的安全措施，同时尊重用户隐私和自主权
- 监管机构需要制定合理的框架，既保护用户又不过度限制创新
- 用户需要提高对AI系统潜在风险的认识，并积极参与相关讨论
- 专家需要提供基于研究的指导，帮助制定有效的安全策略
正如一位X用户所评论的："既然我们已经区分了未成年人和成年用户，请给成年用户自由讨论话题的权利。为什么我们不能作为付费用户选择自己的模型，甚至让我们的讨论受到控制？请把成年人当作成年人对待。"
这一呼声反映了用户对技术公司尊重其自主权的合理期望，也是AI技术未来发展必须面对的重要议题。
