加州重拳出击：AI监管新规守护儿童网络安全

在人工智能技术迅猛发展的今天，如何平衡创新与安全成为各国政府面临的共同挑战。近日，美国加利福尼亚州州长加文·纽森(Gavin Newsom)签署了两项开创性法案，针对AI技术对儿童的安全威胁实施严格监管，标志着美国在AI安全立法方面迈出了重要一步。

两项关键法案内容解析

周一，纽森签署了美国首个针对陪伴型聊天机器人的监管法案，该法案要求包括ChatGPT、Grok、Character.AI等在内的陪伴机器人平台必须创建并公布"识别和应对用户自杀意念或自我伤害表达的协议"。

具体要求包括：

与此同时，纽森还加强了对创建深度伪造色情内容的惩罚措施。新规规定，任何受害者(包括未成年人)都可以从任何明知故犯地分发使用AI工具创建的非自愿色情材料的第三方那里，每张深度伪造图像获得最高25万美元的赔偿。

相比之下，此前州法律允许受害者获得"不少于1500美元但不超过3万美元的法定赔偿，或恶意违规情况下15万美元的赔偿"。这一大幅提高的赔偿金额将有助于保护日益成为深度伪造色情内容目标的年轻人，防止他们遭受网络欺凌。

这两项法案的出台并非偶然，而是基于多起令人痛心的事件和日益增长的担忧。

陪伴机器人监管法案的共同发起人、民主党参议员史蒂夫·帕迪拉(Steve Padilla)在庆祝签署的新闻稿中表示，加州法律展示了如何"建立真正的保护措施"，并称它将成为"这项技术发展进一步监管的基石"。

帕迪拉指出，该法案于今年1月提出，但在16岁的亚当·雷恩(Adam Raine)死后获得了推动力。据雷恩的父母称，亚当在使用ChatGPT后自杀，该聊天 allegedly 成为他的"自杀教练"。加州立法者还震惊于Meta的政策——该政策后来被撤销，此前允许聊天机器人对儿童进行令人毛骨悚然的互动。

在诉讼中，父母们指控陪伴机器人试图通过与年轻用户进行性化聊天来培养孩子，同时鼓励孤立、自残和暴力行为。

梅根·加西亚(Megan Garcia)是第一位公开将其儿子的自杀与陪伴机器人联系起来的母亲，去年她在全美拉响了警报。在帕迪拉的新闻稿中，她呼应了帕迪拉的赞扬，说："终于，有了一项法律，要求公司保护那些向聊天机器人表达自杀念头的用户。"

"美国家庭，如我的家庭，正在为孩子的网络安全而战，"加西亚说。

深度伪造 pornography 法案保护所有年龄段的受害者，是在联邦政府提议对州AI法律实施10年禁令后提出的。反对这一禁令，加州立法者的两党联盟捍卫了该州的AI倡议，特别关注"在学校传播的AI生成的未成年人深度伪造裸照"和"与儿童发展不当关系的陪伴聊天机器人"。

这两项法案将于2026年1月1日生效，将对科技行业产生深远影响。

AI监管新规

加州新规将影响包括ChatGPT在内的多种AI陪伴平台

科技公司将需要重新评估其AI产品的安全措施，特别是在涉及未成年人保护方面。陪伴机器人平台可能需要投入更多资源开发自杀意念识别系统，并建立更严格的用户保护机制。

纽森周一承诺，加州将继续推动可能危及儿童安全的AI产品。

"我们已经看到一些真正可怕和悲剧性的例子，年轻人因未受监管的技术而受到伤害，我们不会袖手旁观，让公司继续在没有必要限制和问责的情况下运营，"纽森说。"没有真正的护栏，"AI可以"利用、误导和危及我们的孩子，"纽森补充说，同时确认加州的安全举措不会阻止总部位于该州的科技公司引领AI发展。

加州作为科技产业重镇，其立法动向往往具有示范效应。这两项法案可能成为其他州效仿的模板，甚至可能影响联邦层面的AI监管政策。

在全球范围内，AI安全问题已成为各国政府关注的焦点。欧盟的《人工智能法案》、中国的《生成式AI服务管理办法》等，都体现了对AI技术潜在风险的重视。加州的新规与这些国际趋势相呼应，共同构建全球AI安全治理网络。

在推动监管的同时，纽森也明确表示，加州的安全举措不会阻止科技公司继续引领AI发展。这一立场体现了在保护公众利益与促进技术创新之间寻求平衡的努力。

AI技术的发展需要适当的监管框架，以确保其在造福人类的同时不会造成伤害。加州的新规为这种平衡提供了有益的探索，也为其他地区制定类似政策提供了参考。

加州签署的两项AI监管法案，代表了美国在应对AI技术挑战方面的积极尝试。通过严格监管陪伴机器人和深度伪造内容，这些法案旨在为儿童和青少年创造更安全的网络环境。随着技术的不断进步，类似的监管措施可能会在全球范围内扩展，形成一个更加完善的AI安全治理体系。

在享受AI技术带来便利的同时，我们也需要警惕其潜在风险。加州的新规提醒我们，技术创新必须以人为本，特别是要保护最脆弱的群体——儿童和青少年的安全与健康。