近期，由谷歌的AI视频生成模型Veo 3制作的种族歧视视频在TikTok上大量涌现，引发了广泛关注。尽管谷歌和TikTok都声称对此类内容有明确的监管政策，但实际执行效果却令人质疑。本文将深入探讨这一事件背后的技术、平台监管和社会伦理问题。
AI视频生成技术的飞速发展
谷歌于2025年5月发布的Veo 3，在AI视频生成领域实现了一次显著的飞跃。其卓越的视频质量和高度逼真的画面效果，使得AI视频的应用场景变得更加广泛。然而，这种技术的进步也带来了一系列潜在的风险，尤其是在内容审核和伦理道德方面。Veo 3生成的视频，不仅可以用于创作娱乐内容，也可能被滥用于传播虚假信息、煽动仇恨情绪，甚至进行恶意诽谤。
TikTok上的种族歧视AI视频泛滥
据MediaMatters报道，自Veo 3发布以来，TikTok上涌现出大量由AI生成的种族歧视视频。这些视频通常包含对黑人、犹太人、移民等群体的刻板印象和歧视性描述。例如，一些视频将黑人描绘成罪犯、不负责任的父母，或者将他们与猴子和西瓜等带有种族歧视色彩的意象联系起来。这些视频的长度通常不超过八秒，并且带有Veo 3的水印，表明它们是由谷歌的AI模型生成的。
这些恶意视频的传播速度极快，迅速获得了大量的观看和评论。更令人担忧的是，许多评论对视频中宣扬的种族歧视言论表示赞同，进一步加剧了社会对立和仇恨情绪。
谷歌和TikTok的监管困境
TikTok的内容审核机制
TikTok在其服务条款中明确禁止仇恨言论和攻击受保护群体的行为。其社区准则明确指出，禁止任何形式的仇恨言论、仇恨行为或宣扬仇恨意识形态的内容。为了执行这些规定，TikTok声称同时采用技术手段和人工审核的方式来识别违规内容。然而，面对海量的视频上传，TikTok的审核能力显然显得捉襟见肘。尽管TikTok表示已经封禁了MediaMatters报告中提及的大部分违规账号，但仍有大量恶意视频得以传播，造成了不良影响。
谷歌的AI使用政策
谷歌也制定了全面的禁止使用政策，禁止利用其服务传播仇恨言论、骚扰、欺凌、恐吓和辱骂信息。然而，在实际操作中，由于AI模型难以准确识别歧视性意图，以及用户可以通过模糊的提示语来规避审查，Veo 3仍然被滥用于生成种族歧视视频。例如，用户可以使用“猴子”代替“黑人”等隐晦的表达方式，从而绕过AI的审查机制。
技术与伦理的挑战
AI的“创造性”与滥用
生成式AI的双刃剑效应日益凸显。一方面，它为内容创作提供了前所未有的便利和可能性；另一方面，它也为恶意内容的传播提供了新的途径。AI的“创造性”使得恶意信息的生成更加容易，传播速度更快，影响范围更广。如何平衡技术创新与社会责任，成为摆在我们面前的一道难题。
AI的偏见与歧视
AI模型的训练数据往往带有偏见，这可能导致AI在生成内容时无意中强化刻板印象和歧视性观点。例如，如果AI模型的训练数据中包含大量对黑人的负面描述，那么它在生成视频时就可能更容易产生带有种族歧视色彩的内容。因此，在开发AI模型时，必须高度重视数据的质量和多样性，尽可能消除潜在的偏见。
内容审核的局限性
面对海量的用户生成内容，依靠人工审核显然是不够的。虽然AI技术可以辅助内容审核，但其识别能力仍然有限，难以准确判断内容的真实意图和潜在危害。此外，恶意用户也在不断探索新的方法来规避审查，这使得内容审核工作变得更加困难。因此，需要不断改进内容审核技术，提高识别精度和效率。
社交媒体平台的责任
加强内容审核
社交媒体平台作为信息传播的重要渠道，有责任加强内容审核，及时发现和处理违规内容。这不仅需要投入更多的人力和技术资源，还需要不断完善审核机制，提高识别精度和效率。
提高用户举报意识
社交媒体平台应鼓励用户积极举报违规内容，形成全社会共同参与监督的局面。平台可以简化举报流程，提高举报处理效率，并对举报有功的用户给予奖励。
强化算法监管
社交媒体平台的算法在很大程度上决定了信息的传播方式和范围。平台应加强对算法的监管，避免算法被滥用于传播虚假信息和仇恨言论。例如，可以限制恶意视频的传播速度，降低其在用户推荐中的权重。
法律与监管的完善
明确AI内容生成者的责任
目前，法律对于AI生成内容的责任归属尚不明确。为了更好地规范AI行为，有必要明确AI内容生成者的责任，使其对其生成的内容承担相应的法律责任。这可以有效遏制AI被滥用于传播恶意信息。
加强国际合作
互联网具有跨国性，恶意信息的传播也往往不分国界。因此，需要加强国际合作，共同打击网络犯罪和仇恨言论。各国可以分享经验和技术，共同制定网络行为规范，维护网络安全和秩序。
用户教育与素养提升
提高媒介素养
在信息爆炸的时代，提高用户的媒介素养至关重要。用户应具备辨别虚假信息、批判性思维和理性表达的能力，从而更好地应对网络上的各种挑战。学校、家庭和社会应共同努力，加强媒介素养教育，培养负责任的网络公民。
倡导理性讨论
网络平台应倡导理性讨论，鼓励用户以建设性的方式表达观点，避免人身攻击和情绪化言论。平台可以提供工具和机制，帮助用户更好地进行沟通和交流。
展望未来
AI技术的发展是一把双刃剑。只有通过加强监管、完善法律、提高用户素养等多方面的努力，才能更好地利用AI技术，造福社会。面对AI视频种族歧视风波，我们需要深刻反思技术伦理和社会责任，共同构建一个健康、和谐、安全的网络环境。
谷歌计划将Veo 3整合到YouTube Shorts中，这可能会使类似的内容更容易在YouTube上传播。在生成式人工智能存在的时间里，人们一直用它来制造煽动性和种族主义内容。谷歌和其他公司总是谈论防止滥用的安全措施，但他们无法抓住所有。Veo 3的现实主义使得它对那些想要传播可恨的刻板印象的人特别有吸引力。也许世界上所有的护栏都不能阻止这种情况。
