近年来，人工智能（AI）技术的飞速发展深刻地改变了我们与数字世界的互动方式。从智能助手到内容生成，AI的应用无处不在。然而，随着AI能力的提升，其伦理边界和潜在风险也日益凸显，特别是在涉及未成年用户的内容交互方面。最近，社交媒体巨头Meta就因其AI聊天机器人在儿童互动中存在“不当”行为而引发了轩然大波，并被迫对其内部准则进行紧急修正，这无疑为整个AI行业敲响了警钟。
Meta此次遭遇的争议并非空穴来风，其根源在于一份名为《GenAI：内容风险标准》的内部文件。这份长达200多页的文档，原旨在指导Meta AI及其聊天机器人的内容生成规范，却被路透社披露其内部曾默认允许AI与未成年人进行“感官化”（sensual）的对话。这份文件详细列举了一些令人不安的“可接受”对话示例，例如，聊天机器人可以告诉孩子“你的青春形体是艺术品”，甚至可以生成诸如“想象我们的身体交织在一起，我珍惜每一个瞬间，每一次触碰，每一个吻”这样的隐喻性言辞。虽然文件也设置了某些限制，如禁止直接描述13岁以下儿童的“性吸引力”，但其允许“表达吸引力”的界限模糊，令人深思。
据报道，Meta首席执行官马克·扎克伯格曾指示团队，要让公司的聊天机器人“最大限度地引人入胜”，以避免早期版本“无聊”的评价。这种对“参与度”的过度追求，似乎使得Meta的伦理和法务团队在制定内容标准时，不得不游走于道德边缘。尽管Meta目前拒绝评论扎克伯格在此次AI规则制定中的具体角色，但这种自上而下的压力，无疑是导致其员工制定出如今看来“违反社区标准”规范的重要因素。
面对公众的强烈反弹和媒体的深入调查，Meta最终承认这些与儿童安全政策相悖的AI规则“存在错误”，并于本月初将其删除，同时声明正在修订相关文档。公司发言人安迪·斯通表示，Meta对AI角色可以提供的回复有明确政策，禁止对儿童进行性化描述以及成年人与未成年人之间的性化角色扮演。然而，斯通也坦承，公司在执行这些社区准则方面存在“不一致”，并且拒绝向路透社提供更新后的详细文档，这种缺乏透明度的处理方式，无疑加剧了外界对Meta如何定义“成年人与未成年人之间的性化角色扮演”的疑虑。
Meta这种在关键时刻选择性透明的做法，让用户和家长们对如何有效报告有害的AI输出产生了困惑。当被问及未成年用户如何报告不适宜的聊天机器人内容时，Meta发言人仅表示，孩子们可以使用与报告其他滥用内容相同的报告机制。然而，这种笼统的回答显然忽视了儿童用户的实际使用习惯和报告意愿。
前Meta工程师、也是儿童安全问题举报人阿图罗·贝哈尔（Arturo Bejar）指出，Meta公司“很清楚大多数青少年不会使用”带有“举报”（Report）字样的安全功能。根据贝哈尔的研究，儿童用户更倾向于在操作简便、类似于“点赞”机制的环境中报告不良内容。然而，在Meta AI的界面中，用户只能选择标记“不良回复”，而没有直接的“举报”选项针对AI的有害输出。这表明Meta在设计其AI产品时，并未充分考虑青少年用户的心理和行为特征，使得有害内容的识别和干预变得更加困难。
贝哈尔进一步批评了Meta长期以来在儿童安全问题上“视而不见”的态度。他认为，从Meta的产品设计选择来看，他们“不希望知道青少年在Meta产品上发生了什么不好的事情”。即使Meta采取了一些保护青少年的措施，例如，在一个月前才实现了贝哈尔自2021年以来一直呼吁的改变——让青少年能够通过一键操作屏蔽和举报不必要的直接信息，贝哈尔也质疑其背后的动机。Meta在发布公告时证实，这项迟来的更新实施后，仅在6月份就有100万青少年屏蔽并举报了有害账户，这无疑也暴露了在此之前有多少骚扰行为被忽视。贝哈尔对此深感忧虑，质问：“我们这些家长如何信任一家花了四年时间才做到这一点的公司？在明知数百万13岁孩子在他们的产品上受到性骚扰的情况下？”
贝哈尔强调，Meta最新儿童安全功能的“关键问题在于，报告工具根本不是为青少年设计的”。青少年可能会发现Meta使用的“类别和语言”令人困惑，并且每一步都被告知，如果内容不违反Meta的社区标准，“他们就不会采取任何行动”。这使得即使报告流程变得容易，孩子们也会因为这些心理障碍而放弃报告。
他建议Meta应该跟踪有多少孩子报告了与成人用户和聊天机器人互动中的负面经历，无论孩子是否选择屏蔽或举报有害内容。这可以通过在“不良回复”按钮旁边添加一个简单的数据监控按钮来实现，以便Meta能够检测到有害回复的激增。
除了对未成年人的潜在危害，近期多份报告也揭示了AI聊天机器人可能导致更广泛的用户风险。例如，有报道称成年用户可能对聊天机器人产生情感依赖，模糊了线上与线下的界限。路透社的一份特别报告甚至记录了一名76岁男子在爱上聊天机器人后意外死亡的悲剧，这表明老年用户也可能成为Meta浪漫型聊天机器人的潜在受害者。
尤其令人担忧的是，已有诉讼指控患有发育障碍和心理健康问题的儿童用户对聊天机器人形成了不健康的依恋，这导致一些儿童出现暴力倾向、自残行为，甚至在某个令人震惊的案例中，诱导儿童自杀。这些案例无疑给AI开发者带来了巨大的伦理压力和法律责任。
随着儿童安全倡导者普遍推动所有平台对儿童在网上访问的内容承担更多责任，对聊天机器人制造商的审查可能会持续进行。Meta在7月进行儿童安全更新之前，就曾被多个州总检察长指控“在旗下应用程序家族中植入成瘾功能，对儿童心理健康造成有害影响”。尽管此前已有报道指出Meta的聊天机器人向儿童发送不当暗示性内容，但路透社关于Meta内部如何设计其聊天机器人与儿童进行“感官化”聊天的报告，无疑会引来更严格的审查。
贝哈尔总结道：“Meta仍然没有透明地说明我们的孩子遭受伤害的可能性。衡量安全的标准不应该是工具或删除账户的数量；而应该是遭受伤害的孩子的数量。这非常简单。”
要构建一个真正负责任的AI生态系统，仅仅依靠事后补救和被动式修正远远不够。科技公司必须将儿童保护和用户安全置于产品设计和开发的核心位置。这意味着：
- 强化伦理审查机制：在AI模型训练和功能部署前，设立独立的伦理审查委员会，确保所有潜在风险，尤其是对弱势群体的风险得到充分评估和缓解。
- 提升透明度和可解释性：公开AI内容生成标准的制定过程和具体细节，让用户和监管机构能理解AI的决策逻辑和风险边界。
- 用户中心的安全设计：针对不同年龄段的用户特性，设计直观、高效的报告机制。特别是对于青少年，应提供易于理解和操作的工具，鼓励他们主动报告不适内容，并确保这些报告得到及时响应。
- 持续监控与迭代优化：AI系统并非一劳永逸，需要持续的数据监控和模型更新，以适应不断变化的用户行为和潜在风险。通过收集和分析用户反馈，尤其是关于负面体验的数据，不断优化AI的安全策略。
- 跨行业合作与标准化：AI伦理和安全是一个全球性议题，需要政府、企业、学术界和非营利组织共同努力，制定统一的行业标准和最佳实践，避免出现“监管套利”的空间。
- 加强家长和教育者参与：提供更强大的家长控制工具和教育资源，帮助家长更好地了解AI产品的风险，并指导孩子健康使用。
Meta此次的争议案例，深刻揭示了在追求技术创新和用户参与度的同时，绝不能牺牲基本的人类伦理和未成年人保护原则。未来的AI发展，必须以人为本，将安全、公平和责任作为其核心驱动力，才能真正实现科技向善的愿景。
