深度伪造裸照应用Clothoff:如何在社交媒体上扩张?法律如何应对?

1

在数字时代,虚假信息的传播速度和影响力令人担忧。一款名为Clothoff的应用,通过深度伪造技术制作虚假裸照,正试图利用社交媒体平台进一步扩张其影响力。本文将深入探讨这款应用的运作模式、潜在危害以及应对措施,以期提高公众对深度伪造技术的警惕性,并促进相关法律法规的完善。

Clothoff,作为一款领先的“裸化”应用,能够快速且低成本地将真实人物的照片转化为虚假裸照。这款应用一直试图隐藏其运营者的身份,并逃避法律的制裁。尽管旧金山市检察官大卫·邱曾提起诉讼,试图关闭该应用,但据一位前Clothoff员工透露,该应用的运营者对此“不以为然”,反而收购了更多的“裸化”应用。

据报道,Clothoff目前拥有至少10个同类服务,每月吸引数十万甚至数百万的浏览量。这位不愿透露姓名的举报人表示,Clothoff员工随着应用的发展变得“玩世不恭”且“痴迷于金钱”。由于制作逼真的虚假裸照成本极低,追逐利润似乎依赖于吸引尽可能多的用户重复使用这些应用。

目前,Clothoff的年度预算约为350万美元。自推出以来,该应用已经改变了其营销方式,现在主要依靠Telegram机器人和X频道,将广告定向到可能使用其应用的年轻男性。

Clothoff的扩张计划

据报道,Clothoff计划通过制作“知名网红、歌手和女演员的裸照”,以吸引广告点击,并以“你选择想给谁脱衣服”为标语,进军德国市场。一些计划中涉及的明星表示,他们从未同意以这种方式使用他们的肖像,并表示如果该计划启动,他们将采取法律行动。

然而,即使是像泰勒·斯威夫特这样的名人,也难以阻止深度伪造裸照在网上的传播。Clothoff等工具越来越多地被用于骚扰中小学女生。类似的活动也计划在英国、法国和西班牙等市场推出。在美国,Clothoff不仅是旧金山市检察官诉讼的目标,也是新泽西州一名高中生提起的诉讼中的工具。该高中生起诉一名男孩,该男孩使用Clothoff“裸化”了她14岁时在Instagram上发布的一张照片,然后与其他男孩在Snapchat上分享。

Clothoff似乎希望吸引更多世界各地的年轻男孩使用其应用。举报人表示,Clothoff的大部分营销预算都用于“在Telegram频道、Reddit的性相关版块和4chan上投放广告”。(Reddit表示,自2024年以来,Clothoff的URL已被禁止在Reddit上使用,“Reddit不允许针对NSFW内容进行付费广告或以其他方式从中获利。”)

在广告中,该应用计划专门针对“16至35岁”的男性,他们喜欢“表情包”和“电子游戏”等无害内容,以及“右翼极端思想”、“厌女症”和安德鲁·泰特等更具毒性的内容。安德鲁·泰特是一位因向青少年宣传厌女观点而受到批评的网红。

法律的挑战与应对

邱希望通过关闭Clothoff以及他的诉讼中针对的其他几款“裸化”应用,来保护越来越多的年轻女性免受虚假裸照的侵害。但到目前为止,虽然邱已经达成和解,关闭了porngen.art和undresser.ai两个网站,但通过现有法律渠道向Clothoff送达传票的尝试尚未成功。邱办公室的副新闻秘书亚历克斯·巴雷特-肖特表示,邱的办公室正在继续通过可用的法律渠道努力向Clothoff送达传票,这些渠道随着诉讼的进展而不断演变。

与此同时,Clothoff也在不断发展,最近推出了一项功能,声称吸引了超过一百万的用户,他们渴望用一张照片制作露骨视频。

Clothoff否认计划使用网红

《明镜周刊》试图揭露Clothoff的运营者,最终追踪到了东欧。记者们偶然发现了一个“意外地在互联网上公开的数据库”,该数据库似乎暴露了“该网站背后的四个核心人物”。

《明镜周刊》称,这与一位举报人的说法“一致”,即所有Clothoff员工“都在前苏联国家工作”。此外,《明镜周刊》指出,其审查的所有Clothoff内部通信都是用俄语编写的,并且该网站的电子邮件服务位于俄罗斯。

一位自称是Clothoff发言人的人士否认认识调查中指出的四个人,并对300万美元的预算数字提出异议。Elias声称,保密协议阻止他进一步讨论Clothoff的团队。然而,在联系后不久,《明镜周刊》注意到Clothoff撤下了该数据库,该数据库的名称翻译为“我的宝贝”。

关于全球扩张的营销计划,Elias否认Clothoff打算使用名人网红,并表示“Clothoff禁止在未经他人同意的情况下使用他人的照片。”

他还否认Clothoff可以被用来“裸化”未成年人的照片;然而,一位匿名与《明镜周刊》交谈的Clothoff用户证实,他最初尝试生成一位美国歌手的虚假裸照失败了,因为她“看起来可能未成年”。但几天后,他的第二次尝试成功地生成了虚假裸照,没有任何问题。这表明Clothoff的年龄检测可能并不完美。

随着Clothoff的增长似乎不可阻挡,这位用户向《明镜周刊》解释了他为什么不觉得使用该应用生成一位著名歌手的虚假裸照有冲突。

这位用户辩解道,“互联网上已经有很多她的照片了。”

然而,这位用户对生成私人个体的虚假裸照划清了界限,坚称“如果我得知有人制作我女儿的这种照片,我会感到震惊。”

对于那些似乎对创建同学的虚假裸照持轻率态度的年轻男孩来说,后果从停学到少年犯罪指控不等,而且对某些人来说,可能还有其他代价。在高中生试图起诉一名使用Clothoff欺负她的男孩的诉讼中,参与群聊的男孩目前抵制分享他们手机上的证据。如果她赢得官司,她要求每张共享的图像赔偿15万美元,因此共享聊天记录可能会增加价格。

自从她和旧金山市检察官分别提起诉讼以来,《删除法案》已经通过。该法案使强制平台删除人工智能生成的虚假裸照变得更容易。但专家预计,由于对审查制度的担忧,该法律将面临法律挑战,因此非常有限的法律工具可能无法经受住审查。

无论如何,《删除法案》是一项保障措施,对于美国“裸化”应用的最早受害者来说来得太晚了,由于法律不明确,使得生成虚假裸照是否非法尚不清楚,因此只有部分受害者正在诉诸法庭寻求正义。

“简·多伊是众多已经并将继续受到人工智能生成的非自愿色情制品剥削、虐待和迫害的女孩和妇女之一,”高中生的诉状指出。“尽管简·多伊已经受到被告行为的迫害,但她不得不提起诉讼以保护自己和她的权利,因为本应保护妇女和儿童免受使用人工智能生成儿童色情制品和非自愿裸体图像侵害的政府机构未能做到这一点。”

AI快讯

AI快讯