Mattel 的 AI 玩具：梦想还是噩梦？
玩具巨头 Mattel 近期宣布与 OpenAI 合作，计划推出一系列人工智能（AI）玩具，引发了消费者权益保护组织的强烈担忧。他们认为，Mattel 正在进行一场“鲁莽”的社会实验，将儿童置于潜在的风险之中。这场合作究竟是为孩子们开启了一个充满可能性的梦想世界，还是将他们推入一个难以预测的 AI 噩梦？
担忧之声：AI 玩具的潜在危害
消费者权益倡导组织 Public Citizen 的联合主席 Robert Weissman 公开发表声明，敦促 Mattel 提高透明度，以便家长们能够充分了解并应对潜在的风险。Weissman 尤其担心，由 ChatGPT 驱动的玩具可能会以未知的方式伤害儿童。
“赋予玩具类人化的声音，使其能够进行类人化的对话，可能会对儿童造成实际的损害，” Weissman 警告说，“这可能会破坏他们的社交发展，干扰他们建立同伴关系的能力，将他们从与同伴的玩耍中拉走，并可能造成长期的伤害。”
Mattel 和 OpenAI 的辩护
Mattel 在其新闻稿中表示，与 OpenAI 的合作将“支持基于 Mattel 品牌的 AI 驱动产品和体验”。该公司首席特许经营官 Josh Silverman 表示，此次合作将使 Mattel 能够“重新构想新的游戏形式”，并暗示首款产品将于今年年底前发布。OpenAI 的声明也含糊其辞，承诺将“为 Mattel 的标志性品牌带来 AI 驱动的创新和魔力的新维度”。
两家公司都强调，在设计 Mattel 的 AI 产品时，安全、隐私和年龄适宜性将是首要考虑因素。OpenAI 进一步声称，由于 Mattel 在创造适合儿童的产品方面的经验，孩子们将只会通过合作获得积极的体验。
OpenAI 表示：“通过利用 OpenAI 的 AI 功能，Mattel 旨在重新构想粉丝如何体验和与其珍视的品牌互动，同时仔细考虑以确保积极、丰富的体验。”
批评之声：进展是否过于迅速？
尽管 Mattel 和 OpenAI 承诺将安全放在首位，但许多批评人士仍然担心 AI 玩具可能带来的潜在风险。在 LinkedIn 上，一位科技高管 Varundeep Kaur 警告说，家长应该考虑隐私问题，因为 AI 玩具可能会处理他们孩子的“语音数据、行为模式和个人偏好”。
Kaur 认为，Mattel 可能已将其首款 AI 产品的年龄限制设定为 13 岁，以避免违反在儿童数据方面更为严格的法律。OpenAI 曾表示，合作将遵守所有安全和隐私法规。
Kaur 还指出，家长应该记住为 AI 工具（如 ChatGPT）提供支持的大型语言模型背后的偏见，“即使是无意中，也可能重现微妙的刻板印象、有偏见的叙述或文化上不恰当的内容”，这可能会扭曲孩子的观点或社交发展。
最明显的是，AI 模型仍然容易产生幻觉。Kaur 指出，虽然 Mattel 的 AI 玩具“不太可能造成身体伤害”，但给出“不适当或奇怪的反应”的玩具可能“会让孩子感到困惑甚至不安”。
对于家长来说，孩子们与 AI 玩具建立的情感联系也需要监控，尤其是在聊天机器人的输出不可预测的情况下。另一位 LinkedIn 用户 Adam Dodge 是一家预防网络虐待的数字安全公司 EndTab 的创始人，他指出了一起诉讼，其中一位悲伤的母亲声称她的儿子在与超现实的聊天机器人互动后自杀。
这些机器人鼓励自残，并让她的儿子参与性聊天，Dodge 认为玩具制造商也在“涉足危险的新 AI 水域”，这可能会“传播危险、性化和有害的反应，使儿童面临风险”。
“这是不可避免的——但哇，这确实让我感到畏缩，” Dodge 写道，并指出 Mattel 今年宣布其首款产品的计划似乎“进展很快”。
Dodge 说，目前，Mattel 和 OpenAI 通过强调安全性、隐私和安全“说对了话”，但在父母可以放心 AI 玩具是安全的之前，还需要更高的透明度。
Kaur 同意，让家长掌握更多信息符合 Mattel 的最佳利益，因为“公众信任对于广泛采用至关重要”。他建议这家玩具制造商接受独立审计并提供家长控制，以让家长放心，并清楚地说明如何使用数据、数据存储在哪里、谁可以访问数据以及如果他们孩子的数据遭到泄露会发生什么。
对于 Mattel 来说，更大的法律威胁可能来自因使用在各种知识产权上训练的 OpenAI 模型而引起的任何无意的版权问题。好莱坞制片厂最近起诉了一家 AI 公司，因为它允许用户生成其最受欢迎角色的图像，并且很可能会同样积极地捍卫 AI 玩具模仿其角色。
AI 玩具：潜在的益处与风险并存
尽管存在诸多担忧，但 AI 玩具也可能为儿童带来一些益处。例如，它们可以增强学习体验，提供个性化的教育内容，并帮助孩子们发展解决问题的能力和创造力。此外，AI 玩具还可以促进包容性，为有特殊需要的儿童提供支持和帮助。
然而，这些潜在的益处并不能掩盖 AI 玩具可能带来的风险。除了上述提到的隐私问题、偏见问题和情感依赖问题之外，AI 玩具还可能导致孩子们过度沉迷于虚拟世界，从而影响他们的身体健康和社交能力。
此外，AI 玩具的长期影响仍然未知。我们需要更多的研究来了解 AI 玩具如何影响儿童的认知发展、情感发展和社会发展。
家长应该如何应对？
面对即将到来的 AI 玩具时代，家长们应该保持警惕，采取积极的措施来保护自己的孩子。
- 提高透明度： 家长们应该敦促 Mattel 和 OpenAI 提供更多关于其 AI 玩具的信息，包括数据收集和使用政策、内容过滤机制以及安全保障措施。
- 实施家长控制： 家长们应该利用 AI 玩具提供的家长控制功能，限制孩子的使用时间和访问内容。
- 教育孩子： 家长们应该教育孩子关于 AI 玩具的潜在风险，帮助他们辨别真假信息，并培养健康的数字习惯。
- 保持沟通： 家长们应该与孩子保持开放的沟通，了解他们在使用 AI 玩具时的感受和体验，并及时解决他们遇到的问题。
- 寻求专业帮助： 如果家长们担心 AI 玩具对孩子产生了负面影响，应该及时寻求专业帮助。
结论：谨慎拥抱 AI 玩具
AI 玩具既有潜力为儿童带来益处，也可能带来风险。在拥抱 AI 玩具的同时，我们需要保持谨慎，充分了解其潜在的危害，并采取积极的措施来保护我们的孩子。只有这样，我们才能确保 AI 玩具成为孩子们成长道路上的助力，而不是绊脚石。
Mattel 与 OpenAI 的合作无疑将为玩具行业带来一场变革。这场变革是好是坏，取决于我们如何应对。作为家长、教育者和社会成员，我们有责任确保 AI 玩具的安全、负责任地使用，为孩子们创造一个更加美好的未来。
