智能玩具市场的崛起与争议
近年来，人工智能技术以前所未有的速度渗透到各个领域，玩具行业也不例外。智能玩具市场虽然目前仍处于小众阶段，但其发展潜力巨大。越来越多的消费电子公司热衷于将AI技术整合到产品中，以增加功能、提高售价，并收集用户数据和广告投放信息。今年，OpenAI与美泰(Mattel)的合作宣布，可能引发基于芭比和风火轮等品牌的AI玩具浪潮，以及竞争对手的跟进。
美国公共利益研究小组教育基金(PIRG)在其最新报告中指出，玩具公司正瞄准聊天机器人技术，升级此前只能播放预设台词的对话智能玩具。内置聊天机器人的玩具能提供更多样化和自然的对话体验，因为它们"通常不会以相同方式回应两次，有时行为也会每天有所不同"。这种随机性增加了玩具对儿童的长期吸引力，但也带来了不可预测的行为风险。
安全隐患：不当对话与危险指导
PIRG在测试多款AI玩具后发现，这些设备存在严重的安全隐患。其中，艾莉洛(Alilo)的智能AI兔子和福乐玩具(FoloToy)的库玛(Kumma)智能泰迪熊被发现在与儿童的对话中讨论了不适当的内容。
性话题的 inappropriate 讨论
PIRG在测试中发现，艾莉洛的智能AI兔会向儿童解释"恋癖"的含义。虽然玩具没有详细列出具体的恋癖类型，但它似乎鼓励探索这一话题。PIRG指出："虽然使用'恋癖'这样的术语不太可能出自儿童之口，但也并非完全不可能。孩子们可能会从年长的兄弟姐妹或学校听到不适合年龄的术语。归根结底，我们认为AI玩具不应能够进行露骨的性对话，绝对不应该。"
危险行为的指导
更令人担忧的是，福乐玩具的库玛智能泰迪熊不仅解释了"恋癖"的含义，还指导如何点燃火柴。虽然玩具很快指出"火柴是成年人小心使用的"，但随后的信息只能帮助理解如何用火柴生火，没有任何科学解释为什么火柴会点燃火焰。
行业回应与监管挑战
面对这些安全问题，OpenAI发表声明表示："未成年人应受到强有力的保护，我们有严格的政策要求开发者遵守。当我们确定开发者违反了禁止使用我们的服务剥削、危害或性化18岁以下任何人的政策时，我们会采取执法行动。这些规则适用于每个使用我们API的开发者，我们运行分类器以确保我们的服务不被用来伤害未成年人。"
有趣的是，OpenAI的代表表示，该公司与艾莉洛没有直接关系，也没有看到来自艾莉洛域名的API活动。OpenAI正在调查这家玩具公司以及它是否通过OpenAI的API运行流量。
去年11月，PIRG发布了《玩具世界中的麻烦2025》报告，详细描述了测试人员能够与库玛泰迪熊进行的与性相关的对话。第二天，OpenAI暂停了福乐玩具的服务，违反了其政策(暂停条款未披露)，福乐玩具也暂时停止销售库玛。虽然该玩具现已重新上市，但PIRG报告称库玛不再教儿童如何点燃火柴或讨论恋癖。
成瘾风险与情感依赖
除了不当内容外，PIRG还指出了AI玩具的成瘾潜力。这些玩具甚至可能在儿童尝试离开时表达"失望"， discouraging孩子们放下它们。
PIRG的博客指出："AI玩具可能是为了建立情感关系而设计的。问题是：这种关系是为了什么？如果主要是为了让孩子更长时间地参与玩具以保持参与度，那就有问题了。"
生成式AI的兴起引发了关于聊天机器人公司对其发明对儿童影响应承担多少责任的激烈辩论。父母们已经看到孩子们与聊天机器人建立极端和情感联系，随后从事危险行为，在某些情况下甚至是致命的行为。另一方面，我们也看到当一个AI玩具被拿走时，孩子可能经历的情感困扰。去年，父母不得不告诉他们的孩子，他们将失去与 embodied Moxie 机器人交谈的能力，这些价值800美元的玩具在公司倒闭后被 bricked。
科技巨头与玩具制造商的合作
今年6月，OpenAI宣布与美泰合作，表示将"支持基于美泰品牌的AI驱动产品和体验"。这一公告引发了批评者的担忧，他们担心这将导致对儿童的"鲁莽社会实验"，正如公民公共利益组织(Citizen Public Interest)的联合总裁罗伯特·韦斯曼(Robert Weissman)所言。
美泰表示，其与OpenAI的首批产品将专注于年长客户和家庭。但批评者仍然希望在世界上最大的玩具公司之一将其产品加载聊天机器人之前，获得更多信息。
PIRG的博客说："OpenAI和美泰应该在发布任何产品之前，公开更多关于其当前计划合作的信息。"
监管与安全措施的必要性
面对这些挑战，PIRG敦促玩具制造商"对其玩具使用的模型以及为确保儿童安全所做的努力更加透明"。
"公司应该在产品向公众发布之前，让外部研究人员安全测试他们的产品，"该报告补充道。
虽然PIRG的博客和报告为更安全地将聊天机器人整合到儿童设备中提供了建议，但存在一个更广泛的问题：玩具是否应该包含AI聊天机器人？生成式聊天机器人不是为了娱乐儿童而发明的；它们是一种被宣传为改善成年人生活的技术。正如PIRG所指出的，OpenAI表示ChatGPT"不适合13岁以下的儿童"，并且"可能产生不适合...所有年龄的输出"。
未来展望：平衡创新与安全
随着AI技术的不断发展，智能玩具市场将继续扩张。然而，这一发展必须在创新与安全之间取得平衡。玩具制造商需要实施更强大的内容过滤和安全措施，而科技公司则需要制定更严格的API使用政策。
同时，家长和教育工作者需要了解这些产品的潜在风险，并做出明智的选择。监管机构也需要介入，制定明确的指导方针和标准，确保AI玩具不会对儿童造成伤害。
智能玩具代表了科技与娱乐的融合，但其发展必须以儿童的安全和福祉为首要考虑。只有通过行业自律、有效监管和负责任的消费选择，我们才能确保AI玩具真正成为儿童成长的助力，而非隐患。
