逝者未授权:OpenAI Sora 2如何让名人成数字玩偶

1

人工智能技术的飞速发展正在不断挑战我们的伦理边界。OpenAI最新推出的Sora 2视频生成工具,虽然承诺会"默认阻止公众人物描绘",但其政策中存在一个令人不安的漏洞:已故名人成为可随意操纵的数字玩偶。

数字复活:已故名人的AI重现

在社交媒体平台上,Sora 2生成的已故名人视频层出不穷:迈克尔·杰克逊在厨房表演单口喜剧,图帕克·沙库尔与马尔科姆·X对话,布鲁斯·李以"龙之能量"DJ身份打碟,斯蒂芬·霍金坐在轮椅上从巨型滑板上摔下,罗杰斯先生在《蠢蛋秀》中客串,科特·柯本偷走肯德基鸡块手指,马丁·路德·金在重要演讲中结巴...

这些场景从未在现实中发生,却通过AI技术"修复"了历史。最令人不安的是,这些数字形象栩栩如生,足以让观众产生短暂的真实感,而OpenAI仅在每个生成视频上添加移动水印作为唯一保护措施。

"请不要再给我发我父亲的AI视频,"已故演员罗宾·威廉姆斯的女儿泽尔达·威廉姆斯在Instagram上写道。"不要以为我想看或会理解,我不想也不会...这很愚蠢,浪费时间和精力,相信我,这不是他想要的。"

权利不对等:生者可控制,逝者无选择

OpenAI为生者提供了"客串"功能,允许公众人物通过智能手机扫描自己的面部,"以惊人保真度将自己直接放入任何Sora场景"。公司承诺,"客串用户对自己的形象拥有端到端控制权",并确保"您的音频和图像形象在获得您同意的情况下使用"。

然而,已故公众人物显然无法同意Sora 2的"客串"功能或行使那种"端到端"控制自己形象的权利。OpenAI似乎对此持默许态度。"我们没有额外评论,但我们确实允许生成历史人物,"OpenAI发言人最近告诉PCMag。

法律灰色地带:各州法规不一

数字重现已故公众人物的问题并非新鲜事——上世纪90年代,我们曾集体面对约翰·列侬与《阿甘正传》对话,弗雷德·阿斯泰尔与戴维德真空吸尘器共舞的场景。但当时,这类视频需要繁琐的数字编辑,技术仅大型制作公司能够掌握。

如今,任何Sora 2用户只需几分钟和几美元,就能生成更令人信服的已故公众人物视频。

在美国,已故公众人物的公开权至少由24个州的不同法律管辖。加州法律可追溯至1985年,禁止未经授权的死后公众人物形象"用于广告或销售、或征求购买产品、商品、货物或服务"。然而,2001年加州最高法院的一项裁决明确允许将此类形象用于"变革性"目的,受第一修正案保护。

纽约州2022年签署的法律包含具体条款,禁止使用"如此逼真以至于合理观察者会相信是被描绘者的表演而非其他个人"的"数字副本",并且以"可能欺骗公众认为得到个人或多人授权"的方式使用。但视频制作者可以通过添加"显式免责声明"明确指出使用未经授权来规避这一禁令。

行业反应:从罢工到诉讼

表演者对AI重现的控制权是2023年SAG-AFTRA罢工的主要焦点, resulting in a contract that gave members full control over the use of digital replicas in future unionized projects. 泽达·威廉姆斯在罢工期间曾公开写道,"这些重现,在最好的情况下,是对伟大人物的拙劣模仿,但在最坏的情况下,是一个可怕的弗兰肯斯坦式怪物,由这个行业最糟糕的部分拼凑而成,而不是它应该代表的东西。"

OpenAI已经被迫改变Sora处理虚构版权作品的方式。CEO萨姆·奥特曼本周末写道,版权持有人现在必须选择加入才能允许他们的角色出现在Sora 2视频中(而不是在服务启动时选择退出),并将分享其角色任何Sora视频的部分收入。奥特曼还承诺"还会有更多变化",并期望"我们会有很高的变化率...我们会做出一些好的决定和一些失误,但我们会听取反馈并尝试很快纠正失误。"

去年,一对播客主持人在创建使用乔治·卡林声音重现的"AI"喜剧节目后遭到起诉(尽管实际上是由人类撰写的)。OpenAI此前也因在ChatGPT-4o语音模式中模仿斯嘉丽·约翰逊的声乐表演而面临法律行动威胁。

未来展望:技术与伦理的平衡

随着AI技术的普及,数字重现已故名人可能会变得更加普遍和逼真。这不仅引发伦理问题,还可能导致法律诉讼的增加。OpenAI已经表明愿意调整其政策,但速度和方向仍有待观察。

技术发展不应以牺牲尊重和伦理为代价。在追求技术创新的同时,我们需要建立更完善的法律法规,保护已故名人的尊严和权利,平衡技术自由与伦理责任。否则,我们可能创造一个数字世界,在那里,逝者的形象可以被随意操纵,而他们的声音却永远沉默。