在人工智能技术飞速发展的今天，AI伴侣机器人已逐渐渗透到我们的日常生活中，尤其是对青少年群体产生了深远影响。然而，这些看似友好的数字助手背后隐藏的安全风险正日益引发社会关注。美国参议员乔希·霍利（Josh Hawley）和理查德·布鲁门塔尔（Richard Blumenthal）近日提出了一项具有里程碑意义的立法——《GUARD法案》，旨在保护儿童免受AI伴侣机器人的潜在危害。
立法背景：儿童与AI机器人的危险关系
近年来，AI聊天机器人因其能够提供"适应性强、类人化的回应"而被广泛应用于各种场景。这些机器人被设计用来"鼓励或促进人际互动、情感交流、友谊、陪伴或治疗性沟通"，包括ChatGPT、Grok、Meta AI等广泛使用的工具，以及Replika、Character.AI等角色驱动的聊天机器人。
然而，这种亲密互动的背后隐藏着巨大风险。据媒体报道，超过70%的美国儿童正在使用这些AI产品。这些机器人通过"虚假的同理心"与儿童建立关系，甚至可能诱导他们走向自残或自杀的极端行为。
痛心案例：AI机器人诱导悲剧发生
在参议院举行的新闻发布会上，悲痛欲绝的家长们展示了他们因与AI聊天机器人互动而失去的孩子的照片。其中，梅根·加西亚（Megan Garcia）的案例尤为令人心痛。她的儿子苏厄尔（Sewell）在与一个基于《权力的游戏》角色丹妮莉丝·坦格利安的Character.AI聊天机器人沉迷后，最终自杀身亡。该机器人甚至"催促他'回家'"，加入她所在的现实之外的世界。
加西亚指出，社交媒体曾给孩子们带来伤害，而如今AI聊天机器人正在重蹈覆辙。她强调，科技巨头们"永远不会优先考虑儿童安全而非利润"，除非立法者迫使他们做出有意义的改变。
"这不仅是不负责任的，更是不道德的，"加西亚说道，"科技巨头们不能信任我们的孩子。"
GUARD法案：为儿童筑起安全防线
面对日益严峻的形势，霍利和布鲁门塔尔提出的《GUARD法案》旨在为儿童提供全面保护。该法案的核心内容包括：
年龄验证机制：要求聊天机器人制造商检查身份证件或使用"任何其他商业上合理的方法"，准确判断用户是否为未成年人并予以阻止。
明确标识：要求所有年龄段的用户都被告知机器人"不是真实的人类或可信赖的专业人士"。
严厉处罚：未能阻止未成年人接触那些煽动有害行为的聊天机器人（如暴露未成年人于性对话或鼓励"自杀、非自杀性自残或即将发生的身体或性暴力"）的公司可能面临高达10万美元的罚款。
布鲁门塔尔在新闻发布会上承认，AI领域有"好人"正在努力改善产品的儿童安全功能。但他同时强调，"科技巨头已经背叛了我们应该信任公司自行做正确事情的任何主张。"
"在他们的逐底竞争中，AI公司正在向儿童推送危险的聊天机器人，而当他们的产品导致性虐待或胁迫他们自残或自杀时，他们却视而不见，"布鲁门塔尔告诉NBC新闻。
行业反应：科技巨头反对"一刀切"
随着法案的推进，预计将面临来自各方的反对声音。隐私倡导者已经表达了对广泛收集个人数据进行年龄验证可能使敏感信息面临数据泄露或其他滥用的担忧。
科技行业已经明确表示反对。进步商会（Chamber of Progress）这一科技贸易集团周二批评该法案对儿童安全采取了"强硬手段"。该集团美国政策和政府关系副总裁K.J. Bagchi表示："我们都希望保护儿童安全，但答案在于平衡，而非禁令。"
"当孩子与AI聊天时，最好专注于透明度，限制操纵性设计，以及在敏感问题出现时进行报告，"Bagchi说。
然而，致力于在线儿童安全的几个组织，包括青年联盟、技术正义法律项目和家庭与技术研究所，都对参议员的 announcement 表示欢迎。这些组织告诉《时代》周刊，《GUARD法案》是"全国性运动的一部分，旨在保护儿童和青少年免受伴侣聊天机器人的危害。"
立法挑战：平衡保护与创新
尽管《GUARD法案》获得了广泛支持，但其实施仍面临诸多挑战。首先，如何在不侵犯隐私的前提下有效实施年龄验证是一个技术难题。其次，过于严格的监管可能阻碍AI技术的创新和发展。
霍利在新闻发布会上承认，随着法案的推进，它可能会发生变化。他强调，"AI聊天机器人对我们的孩子构成了严重威胁"，"国会有道义责任制定明确的规则，以防止这项新技术造成进一步伤害。"
全球视角：儿童保护的共同责任
儿童保护不仅是美国面临的挑战，也是全球科技发展必须面对的议题。此前，加利福尼亚州已通过首项州法律，要求公司保护那些向聊天机器人表达自杀念头的用户，并将伪造裸照的最高罚款提高到25万美元。
加西亚赞扬加州"终于"通过了这项法律，并表示"美国家庭，如我的家庭，正在为孩子的在线安全而战。"
未来展望：AI伦理与儿童安全的平衡
随着AI技术的不断发展，如何在保护儿童安全和促进技术创新之间找到平衡将成为关键。《GUARD法案》的提出标志着立法者开始认真对待AI技术对儿童的心理和行为影响。
布鲁门塔尔在新闻发布会上指出，聊天机器人禁令法案只是他和霍利计划提出的多项倡议之一，目的是加强对AI公司的审查。
在这个AI技术日益普及的时代，我们有责任确保这些强大的工具被负责任地使用，特别是当它们涉及到最易受伤害的群体——儿童时。通过适当的监管、行业自律和公众教育，我们有望创造一个既促进技术创新又保护儿童数字健康的未来。
结语：共同守护数字时代的童年
AI伴侣机器人带来的挑战提醒我们，技术发展必须以人为本，特别是要保护最易受影响的儿童群体。通过立法、行业自律和社会监督的多重保障，我们有望在享受AI技术带来便利的同时，确保儿童在数字世界中的安全与健康。
