AI 生成内容泛滥：TikTok 如何应对种族歧视视频？
最近，由 Google 的 Veo 3 AI 视频生成器制作的种族歧视视频大量涌入 TikTok，引发了人们对人工智能内容监管的担忧。尽管 Google 和 TikTok 都有明确的政策禁止此类内容，但这些政策的执行似乎并不尽如人意。本文将深入探讨这一问题，分析 AI 内容生成带来的挑战，并探讨可能的解决方案。
AI 视频生成技术的飞跃与滥用
自从 Google 在 2025 年 5 月发布 Veo 3 以来，AI 视频生成技术取得了显著的进步。然而，这种技术的进步也带来了一些负面影响。虽然许多 AI 视频只是无伤大雅的娱乐，但 Veo 3 模型的卓越输出质量也被用于制造有害内容。特别是在 TikTok 上，用户们发现大量由 Veo 3 生成的种族歧视视频正在传播。
种族歧视 AI 视频的具体表现
根据 MediaMatters 的报告，最近几周，许多 TikTok 账户开始发布 AI 生成的视频，这些视频包含种族主义和反犹太主义的内容。这些视频主要针对黑人，将他们描绘成罪犯、缺席的父母，或者将他们与猴子和西瓜等刻板印象联系起来。此外，移民和犹太人也成为了攻击的目标。这些视频通常很短，最长不超过八秒，并且带有“Veo”水印，表明它们是由 Google 的 AI 模型生成的。
这些视频在社交媒体上引发了强烈的反响。MediaMatters 的报告指出，这些视频的评论区充斥着对视频中刻板印象的呼应，进一步加剧了仇恨言论的传播。
AI 模型的安全措施与漏洞
Google 一直强调其 AI 模型的安全性。通常，AI 系统会拒绝执行违反其安全准则的任务。然而，Veo 3 在这方面似乎存在一些问题。尽管 Google 制定了全面的《禁止使用政策》，禁止利用其服务来宣扬仇恨言论、骚扰、欺凌和恐吓等行为，但这些政策在 Veo 3 上的执行效果并不理想。由于提示的模糊性以及 AI 无法理解种族主义隐喻的微妙之处，用户可以轻易地绕过这些规则，生成有害内容。
TikTok 的内容审核困境
TikTok 的服务条款明确禁止仇恨言论和攻击受保护群体的行为。然而，这些种族歧视视频仍然能够在平台上广泛传播。TikTok 声称使用技术和人工审核相结合的方式来识别违规内容。然而，由于每天上传的视频数量巨大，及时审核变得异常困难。尽管如此，TikTok 的一位发言人表示，在 MediaMatters 报告发布之前，超过一半的涉事账户已被封禁，其余账户也已被移除。
社交媒体平台面临的挑战
TikTok 作为全球领先的社交视频平台，自然成为了这些有害视频传播的温床。但这个问题并非 TikTok 独有。其他平台，如 X（前身为 Twitter），由于内容审核力度有限，也面临着仇恨言论泛滥的问题。更令人担忧的是，Google 计划将 Veo 3 集成到 YouTube Shorts 中，这可能会使类似内容更容易在 YouTube 上传播。
如何有效监管 AI 生成内容？
面对 AI 生成内容的滥用，我们需要采取多方面的措施来加强监管：
改进 AI 模型的安全机制：
- 加强提示词过滤：AI 模型需要更精准地识别和过滤潜在的仇恨言论提示词，防止用户利用模糊的语言生成有害内容。
- 提高对隐喻和文化背景的理解：AI 模型应具备更强的语义理解能力，能够识别种族主义隐喻和文化背景，从而避免生成带有歧视色彩的内容。
- 建立用户反馈机制：允许用户举报 AI 生成的有害内容，并根据用户反馈不断改进 AI 模型的安全性能。
加强社交媒体平台的内容审核：
- 加大审核力度：社交媒体平台应投入更多资源，加强人工审核团队的建设，提高内容审核的效率和准确性。
- 优化审核算法：利用 AI 技术来辅助内容审核，提高对违规内容的识别速度和准确性。例如，可以使用图像识别技术来检测种族主义图像，使用自然语言处理技术来分析文本中的仇恨言论。
- 建立黑名单机制：对于多次发布违规内容的账户，应采取永久封禁等严厉措施，以儆效尤。
提高公众的媒介素养：
- 加强教育宣传：通过教育和宣传，提高公众对 AI 生成内容的辨别能力，使人们能够识别和抵制虚假信息和仇恨言论。
- 推广负责任的 AI 使用：鼓励用户以负责任的态度使用 AI 技术，避免生成和传播有害内容。
加强国际合作：
- 建立统一的标准：各国应加强合作，建立统一的 AI 内容监管标准，防止有害内容跨境传播。
- 共享信息和技术：各国应共享 AI 内容监管方面的信息和技术，共同应对 AI 技术带来的挑战。
案例分析：OpenAI 的内容审核实践
OpenAI 在内容审核方面积累了一些有益的经验。例如，OpenAI 使用了一种名为“红队测试”的方法来评估其 AI 模型的安全性。红队成员会尝试利用各种方法来绕过 AI 模型的安全机制，从而发现潜在的漏洞。OpenAI 还会根据用户的反馈不断改进其内容审核系统。这些实践为其他 AI 公司和社交媒体平台提供了借鉴。
数据佐证：AI 生成内容的影响力
根据一项调查，AI 生成的虚假信息在社交媒体上的传播速度比真实信息快六倍。这意味着，如果不对 AI 生成内容进行有效监管，虚假信息和仇恨言论可能会迅速传播，对社会造成严重危害。此外，研究表明，长期接触仇恨言论会导致人们产生负面情绪，甚至引发暴力行为。因此，加强对 AI 生成内容的监管至关重要。
结论：技术发展与社会责任
AI 技术的发展为我们带来了巨大的机遇，但也带来了一些挑战。我们需要在技术发展的同时，承担起社会责任，确保 AI 技术被用于积极的用途。只有这样，我们才能充分利用 AI 技术带来的好处，同时避免其潜在的危害。对于 TikTok 和 Google 而言，加强内容审核和改进 AI 模型的安全机制是当务之急。只有这样，才能有效遏制种族歧视视频的传播，维护一个健康、和谐的社交媒体环境。
