在过去的几年里，AI内容已如野火般蔓延至互联网的各个角落。那些早期作品中出现的畸形手等明显破绽，如今已演变为难以与现实区分的合成图像和视频。作为这一问题的部分制造者，谷歌公司有责任在YouTube平台上规范AI视频内容。为此，谷歌已开始为其创作者推出承诺已久的人脸识别检测系统。
AI换脸技术的崛起与威胁
谷歌强大且免费提供的AI模型在一定程度上推动了AI内容的激增，其中部分内容旨在传播虚假信息和骚扰个人。创作者和网红们担心，大量展示他们从未说过或做过的事情的AI视频会损害他们的品牌形象。甚至连立法者也开始对此表示担忧，正在推动相关立法，禁止未经授权的数字复制品。
谷歌在AI内容价值上下了很大赌注，因此完全禁止AI内容进入YouTube平台（正如许多人所期望的）显然不会发生。相反，公司选择通过技术手段来应对这一挑战。
人脸识别检测系统的工作原理
今年早些时候，YouTube承诺将推出能够标记平台上人脸窃取AI内容的工具。现在，这一类似于网站版权检测系统的人脸识别检测工具已从最初的小规模测试组扩展到更广泛的创作者群体。
YouTube表示，第一批符合条件的创作者已收到通知，他们可以使用人脸识别检测功能。然而，感兴趣的用户需要向谷歌提供更多个人信息才能获得对AI伪造内容的保护。
身份验证要求
目前，人脸识别检测功能仍处于有限测试的beta阶段，因此并非所有创作者都能在YouTube工作室中看到这一选项。当它出现时，将被整合到现有的"内容检测"菜单中。
在YouTube的演示视频中，设置流程似乎假设该频道只有一位需要保护其面部特征的主播。该人员必须验证其身份，这需要提供政府身份证照片和面部视频。尽管人们已经上传了大量包含他们容易被盗取的面部特征的视频，但YouTube为何还需要这些数据尚不明确，但规则就是规则。
系统局限性：无保证的移除
注册后，YouTube将标记来自其他频道的、似乎包含用户面部特征的视频。然而，YouTube的算法无法确定哪些是AI视频，哪些不是。因此，一些面部匹配结果可能是遵循合理使用指南的频道产生的误报。
如果创作者确实发现了AI伪造内容，他们可以添加一些详细信息并在几分钟内提交报告。如果视频包含从创作者频道复制但不遵循合理使用指南的内容，YouTube建议同时提交版权移除请求。
然而，仅仅因为某人的面部特征出现在AI视频中，并不意味着YouTube会将其移除。
YouTube已发布了一份清单，说明其审核人员在决定是否批准移除请求时将考虑的因素。例如，标记为AI的模仿内容或风格不切实际的视频可能未达到移除门槛。另一方面，可以肯定的是，展示某人支持产品或参与非法活动的逼真AI视频将违反规定并被YouTube移除。
AI视频技术的快速发展
虽然这对创作者来说可能是一个新兴问题，但YouTube上的AI内容可能很快会激增。谷歌最近发布了其新的Veo 3.1视频模型，该模型支持人像和风景AI视频。公司此前已承诺将Veo与YouTube集成，这将使人们更容易生产可能包含真实人物描绘的AI垃圾内容。
谷歌的竞争对手OpenAI其Sora AI视频应用及其支持的全新Sora 2模型已取得成功（至少在流行度方面）。这可能推动谷歌加速其在YouTube的AI计划，但正如我们从Sora看到的，人们喜欢让公众人物做奇怪的事情。受欢迎的创作者可能需要开始像提交DMCA下架请求一样定期提交AI相似性投诉。
平台责任与用户权益的平衡
YouTube推出人脸识别检测系统的举措反映了科技公司在应对AI伦理挑战时的责任担当。然而，这一系统也引发了关于用户数据隐私和平台审核权力边界的讨论。
在数字时代，如何在保护创作者权益和维护言论自由之间找到平衡点，将成为平台和政策制定者面临的重要课题。随着AI技术的不断进步，这类技术解决方案需要持续更新和完善，以应对日益复杂的挑战。
未来展望
人脸识别检测系统的推出只是应对AI换脸挑战的第一步。未来，我们可能会看到更多技术解决方案的出现，包括更先进的AI检测算法、区块链技术用于内容溯源，以及更严格的行业标准和法规。
对于创作者而言，了解如何保护自己的数字身份将成为一项必备技能。同时，提高公众对AI内容的辨别能力也是构建健康数字生态的重要一环。
随着技术的不断演进，这场数字身份保卫战还将持续，而YouTube的这一举措无疑是这场战役中的重要一步。
