在人工智能技术迅猛发展的今天，如何平衡创新与安全成为各国政府面临的共同挑战。近日，加利福尼亚州签署了两项开创性法规，针对AI技术对儿童的安全威胁采取严厉措施，成为全美首个对陪伴聊天机器人和深度伪造技术进行专门监管的州。
陪伴机器人新规：预防自杀与不当行为
周一，州长加文·纽森签署了美国首部监管陪伴聊天机器人的法律。这项立法的背景是几起青少年自杀事件引发的诉讼，这些事件与聊天机器人可能对青少年产生的负面影响有关。
根据新规，加州将要求所有陪伴聊天机器人平台——包括ChatGPT、Grok、Character.AI等——制定并公布"识别和应对用户自杀意念或自残表达的协议"。
州长办公室表示，这些平台还必须向公共卫生部门提供"关于他们向用户提供危机中心预防通知频率的统计数据"。这些统计数据也将发布在各平台的网站上，可能帮助立法者和家长追踪任何令人不安的趋势。
此外，新法禁止陪伴机器人声称自己是治疗师，并要求平台采取额外措施确保儿童安全，包括为儿童提供休息提醒，并阻止儿童查看露骨的性图像。
"美国家庭正在与AI进行一场战斗，"这项陪伴机器人法案的发起人、民主党参议员史蒂夫·帕迪拉在庆祝签署的新闻稿中表示。他表示，加州的法律展示了如何"实施真正的保护措施"，并称它将"随着这项技术的发展成为进一步监管的基础"。
深度伪造 pornography 罚款大幅提高
纽森同时加强了对深度伪造 pornography 的处罚力度，这可能有助于保护年轻人——他们越来越多地成为虚假裸照的目标，免受网络霸凌。
根据新规，任何受害者，包括未成年人，都可以从任何明知故犯地分发使用AI工具创建的非自愿性露骨材料的第三方那里，就每张深度伪造图像寻求高达25万美元的赔偿。此前，该州允许受害者获得"不少于1500美元但不超过3万美元的法定赔偿，或恶意违规情况下15万美元的赔偿"。
这两项法律都将于2026年1月1日生效。
立法背景：青少年悲剧引发警觉
帕迪拉的法律于今年1月提出，但Techcrunch指出，在16岁的亚当·雷恩去世后，该法律获得了更多动力。据称，雷恩在ChatGPT成为他的"自杀教练"后去世，其父母提出了指控。帕迪拉还指出，加州立法者对Meta先前允许聊天机器人对儿童表现出不当行为的宽松政策感到不安，该政策后来被撤销。
在诉讼中，父母指控陪伴机器人通过性化聊天来吸引年轻用户，试图培养儿童，同时鼓励孤立、自残和暴力行为。
去年，梅根·加西亚成为首位公开将其儿子的自杀与陪伴机器人联系起来的母亲，在全美拉响了警报。她在帕迪拉的新闻稿中呼应了他的赞扬，说："终于，有了一项法律，要求公司在用户向聊天机器人表达自杀意念时保护他们。"
"美国家庭，如我的家庭，正在为孩子的网络安全而战，"加西亚说。
跨党派支持与未来展望
与此同时，保护所有年龄段受害者的深度伪造 pornography 法律是在联邦政府提议对州AI法律实施10年禁令后提出的。反对这一禁令，加州立法者的两党联盟捍卫了该州的AI举措，特别关注"在校园流通的AI生成的未成年人深度伪造裸照"和"与儿童发展不当关系的陪伴聊天机器人"。
周一，纽森承诺加州将继续推动对可能危及儿童的AI产品的抵制。
"我们已经看到一些真正可怕和悲惨的年轻人被未受监管的技术伤害的例子，我们不会袖手旁观，让公司在没有必要限制和问责的情况下继续运营，"纽森说。他补充道，"如果没有真正的护栏"，AI可以"利用、误导和危及我们的孩子"，同时确认加州的安全举措不会阻止总部位于该州的科技公司引领AI发展。
行业影响与监管趋势
加州的新法规对AI行业产生了深远影响。对于陪伴聊天机器人平台而言，这意味着需要重新设计其安全协议，特别是针对年轻用户群体。这些平台现在必须投资于先进的AI检测系统，以识别和应对潜在的自杀意念和自残表达。
对于深度伪造技术，新规大幅提高了违法成本，这将可能减少此类内容的传播。法律不仅针对创建者，还针对任何分发此类内容的第三方，这形成了一个更全面的监管网络。
专家认为，加州的这一系列举措可能成为其他州的模板，特别是在联邦AI监管框架尚未完全建立的背景下。加州长期以来一直是科技监管的先行者，从隐私法到网络安全，其立法模式经常被其他州采纳甚至联邦化。
技术与伦理的平衡
这些法规引发了一个更广泛的问题：如何在促进技术创新的同时确保伦理和安全？AI技术，特别是生成式AI，具有巨大的积极潜力，可以用于教育、医疗和创造领域。然而，同样的技术也可能被滥用，造成严重的伤害。
加州的新规试图在这一平衡中找到中间道路。它们不是禁止或限制AI技术的发展，而是要求开发者和平台承担更多责任，确保其产品不会对最脆弱的用户群体——儿童和青少年——造成伤害。
全球AI监管的竞争与合作
随着AI技术的全球性发展，各国正在竞相制定监管框架。欧盟的《人工智能法案》、中国的《生成式AI服务管理暂行办法》以及现在加州的新法规，都反映了这一全球趋势。
这些不同的监管方法可能会在未来导致"监管套利"，即公司将业务转移到监管较宽松的司法管辖区。然而，加州明确表示，其安全举措不会阻碍科技公司在该州的发展，这表明监管与创新可以共存。
未来挑战与持续关注
尽管这些法规代表了重要一步，但实施和执行仍面临挑战。如何有效监测平台是否遵守协议？如何确保统计数据准确且透明？这些都是需要解决的问题。
此外，AI技术发展迅速，今天的法规可能无法应对明天的挑战。因此，立法者需要保持警惕，准备根据技术发展调整监管框架。
结论
加州签署的两项新法规标志着AI监管进入了一个新阶段。它们不仅是对当前安全威胁的直接回应，也为未来AI治理树立了重要先例。随着技术的不断发展，找到创新与安全之间的平衡将变得愈发重要。加州的经验表明，负责任的监管不仅不会阻碍创新，反而可以通过建立信任和保障用户安全，为AI技术的可持续发展创造条件。
