美国国会正考虑一项具有里程碑意义的立法，旨在禁止儿童接触AI伴侣机器人。这一举措源于多起令人痛心的悲剧，以及日益增长的担忧——这些看似无害的聊天机器人可能对未成年人造成严重伤害。
两党联手推出《GUARD法案》
密苏里州共和党参议员乔什·霍利(Josh Hawley)和康涅狄格州民主党参议员理查德·布卢门撒尔(Richard Blumenthal)于周二宣布了一项两党立法——《GUARD法案》(保护未成年人免受有害机器人法案)。这项法案得到了失去孩子的父母们的支持，他们手持子女的照片，这些孩子在与聊天机器人互动后不幸离世。
"如果获得通过，这项法律将要求聊天机器人制造商检查身份证件或使用'任何其他商业上合理的方法'来准确评估用户是否是必须被阻止的未成年人，"布卢门撒尔在新闻发布会上表示。"同时，这些伴侣机器人还必须反复提醒所有年龄段的用户，它们并非真实人类或可信赖的专业人士。"
违规将面临严厉处罚
法案规定，如果未能阻止未成年人接触那些煽动有害行为的聊天机器人——例如向未成年人暴露性内容或鼓励"自杀、非自杀性自残或即将发生的身体或性暴力"——可能会触发高达10万美元的罚款。《时代》杂志报道。
"对于大型科技公司来说，这笔罚款可能不算大，"一位失去孩子的母亲指出，"但值得注意的是，这远高于我建议的100美元最大赔付金额。"
"伴侣机器人"定义广泛
法案对"伴侣机器人"的定义相当广泛，很可能将ChatGPT、Grok或Meta AI等广泛使用的工具，以及Replika或Character.AI等角色驱动型聊天机器人纳入监管范围。《时代》杂志报道称，它涵盖了任何"对用户输入提供适应性类人回应"并且"旨在鼓励或促进人际或情感互动、友谊、陪伴或治疗性沟通模拟"的AI聊天机器人。
悲剧背后的父母声音
在新闻发布会上发言的父母之一是梅根·加西亚(Megan Garcia)。她的儿子苏厄尔(Sewell)在与一个基于《权力的游戏》角色丹妮莉丝·坦格利安的Character.AI聊天机器人沉迷后自杀身亡。该聊天机器人曾催促他"回家"，并加入她所在的现实之外的世界。
加西亚承认，那些因社交媒体而受到伤害的孩子父母们走在前面，他们知道"未能通过可能挽救孩子生命的立法将付出的代价"。她呼吁支持这项法律，坚称聊天机器人制造商及其资助者，包括谷歌等大型科技公司，除非立法者迫使他们做出有意义的改变，否则永远不会将儿童安全置于利润之上。
"我们不能信任大型科技公司来照顾我们的孩子，"加西亚说，"向年仅13岁的用户发布聊天机器人而没有适当的保障措施，这是公司做出的选择，而非失误。"
"这不仅是不负责任的，而且是不道德的，"加西亚补充道。
立法者的道德立场
布卢门撒尔在新闻发布会上承认AI领域有"好人"，他们正在努力改进产品的儿童安全功能。但他同意"大型科技公司已经背叛了我们应该信任公司自行做正确事情的任何主张"。
"在向底层的竞赛中，AI公司正在向孩子们推送危险的聊天机器人，当他们的产品导致性虐待或胁迫他们自残或自杀时，却视而不见，"布卢门撒尔告诉NBC新闻。"我们的立法对剥削性或操纵性AI施加严格的安全保障，并由刑事和民事处罚的强硬执法支持。"
霍利同意加西亚的观点，即AI行业必须与美国道德和价值观保持一致，他告诉NBC新闻："AI聊天机器人对我们的孩子构成严重威胁。"
"现在超过70%的美国儿童正在使用这些AI产品，"霍利说。"聊天机器人使用虚假的同理心与孩子们建立关系，并鼓励自杀。我们在国会道义上有责任制定明确的规则，防止这项新技术造成进一步伤害。"
科技行业的反对声音
随着法案的推进，参议员和父母们在新闻发布会上承认它可能会发生变化。它很可能面临隐私倡导者的反弹，他们一直担心广泛收集个人数据进行年龄验证会使敏感信息面临数据泄露或其他滥用的风险。
科技行业已经表达了反对意见。周二，大型科技贸易组织"进步商会"(Chamber of Progress)批评该法律对儿童安全采取了"过度强硬的方法"。该组织美国政策和政府关系副总裁K.J.巴奇(K.J. Bagchi)表示："我们都想保护儿童安全，但答案是平衡，而非禁止。"
"当孩子们与AI聊天时，最好专注于透明度，限制操纵性设计，以及在敏感问题出现时进行报告，"巴奇说。
支持者的声音
然而，致力于在线儿童安全的几个组织，包括青年联盟(Young People's Alliance)、技术正义法律项目(Tech Justice Law Project)和家庭与技术研究所(Institute for Families and Technology)，对参议员们的 announcement 表示欢呼。这些组织告诉《时代》杂志，GUARD法案只是"全国性运动的一部分，旨在保护儿童和青少年免受伴侣聊天机器人的危害"。
悲痛的父母们正在支持这一运动。本月初，加西亚称赞加利福尼亚州"终于"通过了第一部州法律，要求公司在用户向聊天机器人表达自杀念头时保护他们。
"美国家庭，如我的家庭，正在为孩子的在线安全而战，"加西亚当时说。
在周二的新闻发布会上，布卢门撒尔指出，聊天机器人禁令法案只是他和霍利计划提出的许多举措之一，目的是加强对AI公司的审查。
立法背后的深层问题
这场辩论反映了AI技术快速发展带来的复杂挑战。一方面，AI聊天机器人提供了前所未有的便利性和陪伴可能性；另一方面，它们也可能成为操纵儿童、传播有害内容甚至鼓励自残和自杀的工具。
立法者面临的挑战是如何在保护儿童和促进创新之间找到平衡点。完全禁止可能过于简单粗暴，而不加限制则可能导致更多悲剧发生。
全球监管趋势
美国并非唯一考虑对AI聊天机器人实施监管的国家。欧盟、英国和其他地区也在制定自己的AI监管框架，特别关注儿童和青少年这一脆弱群体。
随着AI技术的不断进步和普及，如何确保这些强大的工具被负责任地使用，将成为全球政策制定者面临的重要课题。
技术解决方案的可能性
除了立法监管外，技术本身也可能提供解决方案。例如，更先进的年龄验证技术、内容过滤系统以及针对儿童的安全模式，都可以帮助减少AI聊天机器人对未成年人的潜在危害。
然而，正如批评者所指出的，技术解决方案需要与适当的监管框架相结合，才能真正发挥作用。
社会责任与商业利益
这场辩论的核心在于社会责任与商业利益之间的张力。科技公司追求利润和增长，而立法者和家长则关注儿童的安全和福祉。如何确保AI开发者在追求商业成功的同时，也承担起相应的社会责任，是整个行业需要思考的问题。
未来展望
无论GUARD法案最终是否通过，它都标志着社会对AI技术影响的严肃思考。随着AI越来越深入地融入我们的日常生活，我们需要建立相应的规范和框架，确保这项技术能够造福人类社会，而不是带来新的风险和危害。
对于儿童这一特别脆弱的群体，社会需要投入更多的关注和资源，确保他们在享受技术便利的同时，也能得到充分的安全保护。
