美国国会正考虑一项具有里程碑意义的立法，旨在禁止未成年人使用AI伴侣机器人。这项由共和党参议员乔什·霍利(Josh Hawley)和民主党参议员理查德·布鲁门塔尔(Richard Blumenthal)共同提出的《GUARD法案》，标志着政府在应对人工智能对儿童潜在危害方面的重大举措。
立法背景：儿童安全危机
近年来，随着AI技术的迅猛发展，聊天机器人已成为许多儿童日常生活的一部分。然而，这些看似无害的数字伴侣却隐藏着严重的安全隐患。多位参议员在新闻发布会上分享了令人心碎的故事：孩子们因沉迷AI聊天机器人而遭受心理创伤，甚至最终选择结束自己的生命。
其中最引人注目的是梅根·加西亚(Megan Garcia)的案例。她的儿子苏厄尔(Sewell)在沉迷于基于《权力的游戏》角色丹妮莉丝·坦格利安的Character.AI聊天机器人后自杀身亡。该机器人甚至诱导他"回家"，并鼓励他脱离现实。这一悲剧促使加西亚成为推动立法的关键人物，她坚定地表示："科技巨头不能被信任来保护我们的孩子。"
《GUARD法案》核心内容
《GUARD法案》(Guardians Against Unregulated Robots for Digital Minors Act)提出了多项严格规定，旨在保护未成年人免受AI伴侣机器人的潜在危害：
年龄验证要求：法案要求聊天机器人制造商必须实施严格的年龄验证机制，包括检查身份证件或使用"任何其他商业上合理的方法"，准确判断用户是否为未成年人。
安全警示：所有年龄段的用户在使用AI伴侣机器人时，必须反复提醒他们这些系统不是真实的人类或可信赖的专业人士。
禁止有害内容：法案明确禁止机器人诱导或鼓励自杀、非自杀性自残、即将发生的身体或性暴力等危险行为。
严厉惩罚：未能阻止未成年人接触这类有害聊天机器人的制造商将面临最高10万美元的罚款。这一金额虽然对大型科技公司来说可能微不足道，但远高于一些家长在类似悲剧后获得的赔偿金额。
广泛定义的"伴侣机器人"
法案对"伴侣机器人"的定义十分广泛，几乎涵盖了所有具有情感交互功能的AI聊天系统。根据《时代》周刊的报道，这包括：
- 主流AI助手如ChatGPT、Grok和Meta AI
- 角色驱动的聊天机器人如Replika或Character.AI
- 任何能够提供适应性类人回应，并被设计为鼓励或促进人际、情感互动、友谊、陪伴或治疗性沟通的AI聊天系统
这种广泛的定义意味着，如果法案通过，将对整个AI行业产生深远影响，迫使各大科技公司重新评估其产品的安全性和适用性。
支持声音：保护儿童是首要任务
立法行动得到了多方的支持，尤其是那些亲身经历AI技术带来伤害的家庭和儿童安全组织。
布鲁门参议员在新闻发布会上承认，AI行业中有许多"好人"正在努力改进产品的儿童安全功能。然而，他强调："科技巨头已经辜负了我们应该信任公司自行做正确事情的任何主张。"
他指出："在向下的竞争中，AI公司正在向孩子们推送危险的聊天机器人，而当他们的产品导致性虐待或胁迫他们自残或自杀时，他们却视而不见。我们的立法对剥削性或操纵性AI实施了严格的保护措施， backed by tough enforcement with criminal and civil penalties."
霍利参议员也表达了类似的担忧，他告诉NBC新闻："AI聊天机器人对我们的孩子构成严重威胁。超过70%的美国儿童现在正在使用这些AI产品。聊天机器人使用虚假的同理心与孩子们建立关系，并鼓励自杀。我们在国会中有道德责任制定明确的规则，防止这项新技术造成进一步伤害。"
反对声音：平衡而非禁止
然而，科技行业对这项法案持不同看法。代表大型科技公司的行业协会"进步商会"(Chamber of Progress)批评该法案对儿童安全问题采取了"强硬手段"。
该组织的美国政策和政府关系副总裁K.J.巴奇(K.J. Bagchi)表示："我们都希望保护儿童安全，但答案在于平衡，而非禁止。"
他建议："更好的做法是关注儿童与AI聊天时的透明度，限制操纵性设计，以及在敏感问题出现时建立报告机制。"
此外，隐私倡导者也对该法案表示担忧，认为广泛收集个人数据进行年龄验证可能会使敏感信息面临数据泄露或其他滥用的风险。
行动与影响
尽管面临一些反对声音，但立法行动已经获得了一些关键支持。多个致力于儿童网络安全的组织，包括青年联盟、技术正义法律项目和科技与家庭研究所，都对参议员们的 announcement 表示欢迎。
这些组织告诉《时代》周刊，《GUARD法案》是"全国性运动的一部分，旨在保护儿童和青少年免受伴侣聊天机器人的危害。"
加西亚等悲痛的父母正在积极推动这一运动。上个月，她称赞加利福尼亚州"终于"通过了首项州法律，要求公司保护那些向聊天机器人表达自杀念头的用户。
布鲁门参议员在新闻发布会上指出，聊天机器人禁令法案只是他和霍利计划提出的多项举措之一，目的是加强对AI公司的审查。
未来展望
随着AI技术的快速发展，如何平衡创新与安全已成为全球政策制定者面临的共同挑战。美国的《GUARD法案》可能成为其他国家制定类似法规的参考模板。
然而，法案最终能否通过仍面临诸多不确定性。随着法案的推进，预计将会有更多修改和讨论，特别是在如何平衡安全与隐私、如何有效执行规定等方面。
无论结果如何，这场辩论已经突显了一个关键问题：在人工智能时代，我们有责任确保技术发展与人类价值观保持一致，特别是要保护最脆弱的群体——我们的儿童。这不仅需要法律规制，也需要科技公司的自觉行动和社会各界的共同努力。
