近年来，AI生成内容在互联网上呈爆炸式增长，那些早期作品中出现的扭曲多指的图像已经演变为难以与现实区分的合成视频和图像。作为这一问题的部分制造者，谷歌有责任在YouTube平台上规范AI视频内容。为此，公司已开始为其创作者推出承诺已久的形象识别检测系统。
AI换脸技术的兴起与威胁
谷歌强大且免费提供的AI模型助长了AI内容的崛起，其中部分内容旨在传播虚假信息和骚扰个人。创作者和网红担心，他们的品牌形象可能因大量AI视频而受损——这些视频展示了他们从未说过的话和做过的事。甚至立法者也在对此表示担忧，考虑制定相关法律禁止未经授权的数字复制品。
谷歌对AI内容价值寄予厚望，因此像许多人希望的那样完全禁止AI出现在YouTube上是不可能实现的。今年早些时候，YouTube承诺将推出能够标记平台上AI换脸内容的工具。现在，这个类似于网站版权检测系统的形象识别工具已从最初的测试小组扩展到更广泛的创作者群体。
形象识别系统的工作原理
YouTube表示，第一批符合条件的创作者已收到通知，可以使用形象识别功能。但有意向的用户需要向谷歌提供更多个人信息才能获得对AI虚假内容的保护。
目前，形象识别仍处于有限测试阶段的测试功能，并非所有创作者都能在YouTube工作室中看到这一选项。当它出现时，将被整合到现有的"内容检测"菜单中。在YouTube的演示视频中，设置流程似乎假设该频道只有一位主持人需要保护其形象。该人员必须验证身份，这需要提供政府身份证照片和面部视频。
系统局限性引发争议
尽管YouTube声称将标记其他频道中出现的用户面部视频，但其算法无法确定哪些是真正的AI视频。因此，部分面部匹配结果可能是根据合理使用指南使用短片段的频道产生的误报。
如果创作者确实发现AI虚假内容，可以在几分钟内添加详细信息并提交报告。如果视频包含从创作者频道复制但不遵循合理使用指南的内容，YouTube建议同时提交版权删除请求。然而，仅仅因为某人的形象出现在AI视频中，并不意味着YouTube会删除它。
YouTube已发布了其审核人员在决定是否批准删除请求时将考虑的因素清单。例如，标记为AI的模仿内容或风格不切实际的视频可能达不到删除标准。另一方面，可以肯定的是，展示某人代言产品或参与非法活动的逼真AI视频将违反规定并被YouTube删除。
科技巨头面临的监管挑战
虽然这目前可能是创作者面临的新兴问题，但YouTube上的AI内容很可能很快就会激增。谷歌最近发布了其新的Veo 3.1视频模型，该模型支持人像和风景AI视频。谷歌此前承诺将Veo与YouTube集成，这将使人们更容易批量生产可能包含真人描绘的AI垃圾内容。
谷歌竞争对手OpenAI的Sora AI视频应用及其支持的Sora 2模型取得了成功（至少在受欢迎程度方面）。这可能推动谷歌加速其在YouTube的AI计划，但正如我们在Sora上看到的，人们喜欢让公众人物做奇怪的事情。受欢迎的创作者可能需要像提交DMCA删除请求一样定期提交AI形象投诉。
数字身份保护的未来
YouTube的形象识别系统代表了科技公司在应对AI技术带来的挑战方面迈出的重要一步。然而，这一系统也引发了关于隐私、审核标准和数字权利的更广泛讨论。随着AI技术的不断发展，如何在保护创作者权益的同时促进创新，将成为平台、创作者和监管者需要共同面对的复杂问题。
在数字内容创作日益普及的今天，确保每个人的数字身份得到适当保护，不仅是技术问题，更是关乎信任和真实性的社会问题。YouTube的这一举措或许只是开始，未来我们可能会看到更多针对AI内容监管的技术和政策创新。
