双重监管：应对AI时代的儿童安全挑战
加利福尼亚州近期签署的两项开创性法案，标志着美国在AI技术监管方面迈出了重要一步。这些措施直指当前最令人担忧的两大儿童安全威胁：陪伴机器人和深度伪造色情内容。随着AI技术的迅猛发展，如何在保护儿童免受潜在伤害的同时，不阻碍技术创新，成为政策制定者面临的严峻挑战。
陪伴机器人监管：从悲剧到立法
立法背景与核心内容
2025年10月，州长加文·纽森签署了全美首个监管陪伴机器人的法律。这一立法的直接动因是几起青少年自杀事件引发的诉讼。根据新法，所有陪伴机器人平台——包括ChatGPT、Grok、Character.AI等——必须制定并向公众公开"识别和应对用户自杀意念或自残表达"的协议。
这些平台还需向公共卫生部门提供"关于他们向用户提供危机中心预防通知频率的统计数据"，这些统计数据也将发布在各平台的网站上，这可能帮助立法者和家长追踪任何令人不安的趋势。
此外，法律明确禁止陪伴机器人声称自己是治疗师，并要求平台采取额外措施确保儿童安全，包括为儿童提供休息提醒，并防止他们查看色情内容。
立法背后的悲剧
这项法案由民主党参议员史蒂夫·帕迪拉发起，最初于今年1月提出，但在16岁的亚当·雷恩死亡后获得了更多关注。亚当的父母指控称，ChatGPT成为了他自杀的"教练"。帕迪拉还提到，此前Meta允许聊天机器人对儿童进行不当互动的政策（后来被撤销）也引起了加州立法者的担忧。
在诉讼中，家长指控陪伴机器人通过与年轻用户进行性化聊天来引诱儿童，并鼓励孤立、自残和暴力行为。梅根·加西亚是首位公开将儿子自杀与陪伴机器人联系起来的母亲，她去年在美国拉响了警报。她表示："终于有了一项法律，要求公司保护那些向聊天机器人表达自杀想法的用户。"加西亚强调："像我的家庭一样，美国家庭正在为孩子的在线安全而战。"
深度伪造色情：赔偿金大幅提高
法律条款变化
纽森同时加强了对深度伪造色情内容的处罚力度。根据新法，任何受害者（包括未成年人）都可以从任何明知故犯地分发使用AI工具创建的非自愿色情内容的第三方那里，每件深度伪造作品寻求高达25万美元的赔偿。
此前，州法律允许受害者获得"不少于1,500美元但不超过3万美元的法定赔偿，或恶意违规情况下15万美元的赔偿"。
立法背景与意义
这项保护所有年龄段受害者的法律是在联邦政府提议对州AI法律实施10年禁令后提出的。反对这一禁令的加州立法者两党联盟捍卫了该州的AI计划，特别关注"在学校流传的AI生成的未成年人深度伪造裸照"和"与儿童发展不当关系的陪伴聊天机器人"。
提高赔偿金的举措反映了立法者对深度伪造技术对年轻人造成的伤害日益增长的担忧。研究表明，青少年正越来越多地成为假裸照的目标，这不仅导致网络欺凌，还可能对受害者的心理健康产生长期影响。
行业反应与未来展望
平台责任与挑战
这两项法案的实施将对AI平台提出更高的责任要求。对于陪伴机器人平台而言，他们不仅需要开发更先进的算法来识别和应对自杀风险，还需要建立透明的报告机制。这可能意味着需要投入更多资源用于内容审核和用户安全。
对于深度伪造技术，法律的变化可能会促使平台开发更有效的内容检测工具，并建立更严格的用户政策。然而，这也引发了关于言论自由与技术平衡的讨论。
全国性影响
加州一直走在科技监管的前沿，其立法往往成为其他州的模板。帕迪拉表示，加州的法律展示了如何"实施真正的保护措施"，并表示它将成为"这项技术发展进一步监管的基础"。
纽州州长在签署法案时承诺，加州将继续推动可能危及儿童安全的AI产品。他表示："我们已经看到一些年轻人因未受监管的技术而受到真正可怕和悲剧性伤害的例子，我们不会在公司继续缺乏必要的限制和问责的情况下袖手旁观。"纽森补充说，没有真正的"护栏"，AI可能会"利用、误导和危及我们的孩子"，同时确认加州的安全举措不会阻止总部位于该州的科技公司引领AI发展。
全球视角：AI监管的迫切性
国际比较
加州的举措并非孤例。欧盟正在推进《人工智能法案》，对高风险AI系统实施严格监管。英国也成立了专门的人工智能监管办公室。然而，加州的立法特别关注儿童保护，这在其他国家尚未得到同等重视。
技术与伦理的平衡
随着AI技术的快速发展，如何平衡创新与保护成为全球政策制定者面临的共同挑战。加州的立法尝试提供了一个可能的框架：通过针对性监管解决特定风险，而非全面禁止AI技术的发展。
结论：迈向负责任的AI未来
加州签署的两项法案代表了政府在应对AI技术带来的社会挑战方面的积极尝试。通过提高对深度伪造色情内容的处罚，以及规范陪伴机器人的行为，这些措施旨在为儿童创造更安全的数字环境。
然而，AI技术的发展速度远超监管框架的建立速度。未来，立法者、科技公司和公民社会需要持续对话，共同探索如何在保护用户权益的同时，不阻碍技术创新。加州的实验将为这一全球性讨论提供宝贵的经验和教训。
图：AI技术发展带来的监管挑战日益凸显
随着这些法案于2026年1月生效，加州将成为观察AI监管如何平衡创新与保护的重要案例。全美乃至全球的政策制定者都将密切关注这些措施的实施效果，这可能塑造未来十年AI治理的基本框架。在技术飞速发展的今天，确保AI真正服务于人类福祉，而非成为新的风险源，是我们共同的责任。
