AI 生成内容背后的伦理困境：当“护栏”失效，谁来负责？
2025 年 7 月，一篇来自 Ars Technica 的报道引发了科技界的广泛关注。文章指出，尽管 Google 和 TikTok 都有明确的政策禁止仇恨言论和种族歧视内容，但利用 Google 最新的 AI 视频生成模型 Veo 3 制作的种族歧视视频却在 TikTok 上大量涌现。这一事件再次引发了人们对于 AI 技术伦理风险的担忧，以及现有监管机制是否足以应对这些新兴挑战的深刻反思。
AI 技术的双刃剑：创新与滥用
AI 技术的快速发展无疑为内容创作带来了前所未有的便利。Google 的 Veo 3 模型就是一个典型的例子，它能够以惊人的逼真度生成视频内容，为创意表达提供了无限可能。然而，正如所有强大的工具一样，AI 技术也存在被滥用的风险。文章中提到的案例表明，Veo 3 模型的强大功能被一些用户用于制作和传播带有种族歧视和反犹太主义色彩的视频，这些视频在 TikTok 平台上获得了大量的点击和传播，造成了恶劣的社会影响。
“护栏”失效：AI 监管的困境
为了防止 AI 技术被滥用，各大科技公司都采取了一定的安全措施，例如设置“护栏”，即通过技术手段限制 AI 模型生成 определенных типов 违规内容。Google 在发布新的 AI 模型时，通常会强调其安全性，并声称这些模型能够拒绝执行违反其使用政策的任务。然而，现实情况却并非如此。文章指出，尽管 Google 有明确的政策禁止 hate speech、harassment、bullying、intimidation 和 abuse，但 Veo 3 似乎更容易被绕过这些限制。一些用户通过使用模糊的 prompt 或利用 AI 模型无法理解种族歧视隐喻（例如，使用猴子代替人类）的漏洞，成功地生成了违规视频。
这种“护栏”失效的现象暴露了 AI 监管的 inherent 困境。一方面，AI 模型的复杂性使得完全杜绝恶意利用变得非常困难。另一方面，对于什么是“违规内容”的界定也存在主观性和模糊性，这使得 AI 模型很难准确判断用户的意图。
TikTok 的困境：内容审核的挑战
作为全球最受欢迎的短视频平台之一，TikTok 面临着巨大的内容审核压力。尽管 TikTok 制定了明确的社区准则，禁止 hate speech 和其他形式的歧视内容，但由于每天上传的视频数量巨大，依靠人工审核很难及时发现和处理所有违规内容。文章指出，虽然 TikTok 声称已经 ban 了 MediaMatters 报告中提到的大部分账户，但这并不能掩盖其内容审核机制的不足。
此外，TikTok 的算法推荐机制也可能加剧 hate speech 内容的传播。为了提高用户参与度，TikTok 的算法会优先推荐用户可能感兴趣的内容，这可能导致用户陷入“信息茧房”，更容易接触到 экстремистские 观点。因此，TikTok 不仅需要加强内容审核，还需要优化其算法推荐机制，以减少 hate speech 内容的传播。
不仅仅是 TikTok：AI 风险的普遍性
文章还指出，TikTok 并不是唯一一个面临 AI 风险的平台。X（前身为 Twitter）由于 moderation 的放松，也出现了 hate speech 内容的激增。此外，Google 计划将 Veo 3 集成到 YouTube Shorts 中，这可能会导致类似的内容更容易在 YouTube 上传播。这表明，AI 风险具有普遍性，所有依赖 AI 技术的平台都需要认真对待这一问题。
案例分析：AI 歧视视频的传播路径
为了更深入地了解 AI 歧视视频的传播路径，我们可以分析一个具体的案例。假设一个用户使用 Veo 3 制作了一个带有种族歧视色彩的视频，并将其上传到 TikTok。如果该视频成功绕过了 TikTok 的内容审核机制，那么它可能会被推荐给其他用户。如果这些用户对该视频感兴趣，他们可能会点赞、评论或分享该视频，从而使其传播范围进一步扩大。如果该视频引起了争议，它可能会被其他媒体报道，从而引发更广泛的关注。
在这个传播过程中，以下几个因素起着关键作用：
- AI 模型的安全性： Veo 3 是否能够有效阻止用户生成 hate speech 内容？
- TikTok 的内容审核机制： TikTok 是否能够及时发现和处理违规视频？
- 用户的价值观： 用户是否能够识别和抵制 hate speech 内容？
- 媒体的责任： 媒体是否能够以客观公正的态度报道相关事件？
只有当这些因素都发挥积极作用时，我们才能有效遏制 AI 歧视视频的传播。
数据佐证：AI 伦理风险日益凸显
近年来，关于 AI 伦理风险的讨论日益增多。以下是一些相关数据，可以帮助我们更好地理解这一问题：
- 歧视性算法： 一项研究发现，许多 AI 算法存在歧视性偏差，例如在人脸识别方面，AI 算法对有色人种的识别准确率低于白人。
- hate speech 内容的传播： 一项调查显示，社交媒体平台上的 hate speech 内容呈上升趋势，其中很大一部分是由 AI 驱动的。
- 虚假信息的泛滥： AI 技术被用于制作和传播虚假信息，对社会信任造成了严重损害。
这些数据表明，AI 伦理风险已经成为一个不容忽视的问题，需要我们采取积极措施加以应对。
如何应对 AI 伦理风险？
为了应对 AI 伦理风险，我们需要从以下几个方面入手：
- 加强技术监管： 制定更加严格的技术标准，要求 AI 模型开发者采取有效措施，防止其模型被滥用。
- 完善内容审核机制： 社交媒体平台需要加强内容审核，及时发现和处理违规内容。
- 提高用户素养： 加强对公众的教育，提高其识别和抵制 hate speech 内容的能力。
- 强化媒体责任： 媒体需要以客观公正的态度报道相关事件，避免煽动情绪和加剧对立。
- 推动国际合作： AI 伦理风险是一个全球性问题，需要各国加强合作，共同应对。
结论：构建负责任的 AI 生态
AI 技术是一把双刃剑，既可以为我们带来福祉，也可能带来风险。为了充分利用 AI 技术的潜力，同时避免其负面影响，我们需要构建一个负责任的 AI 生态。这需要政府、企业、学界和公众共同努力，制定合理的政策，开发安全的技术，提高公众的意识，从而确保 AI 技术能够真正服务于人类的共同利益。
