一家名为Clothoff的应用，主要功能是利用人工智能技术将真实人物的照片快速且廉价地制作成虚假的裸照，正计划在全球范围内扩张，以继续其在网络深伪色情领域的统治地位。这款所谓的“nudify app”（裸照应用）一直试图隐藏其运营者的身份，以逃避法律的制裁。旧金山市检察官David Chiu曾于去年8月对该应用提起诉讼，希望能迫使其关闭。然而，据一位曾是Clothoff员工的举报人透露，该应用的运营者似乎并未受到诉讼的影响，反而收购了更多的裸照应用。
Clothoff的扩张之路
据德国《明镜周刊》报道，Clothoff目前至少拥有10个其他的裸照服务，每月吸引的访问量从数十万到数百万不等。这位不愿透露姓名的举报人表示，Clothoff员工随着应用的发展变得“愤世嫉俗”且“痴迷于金钱”，这成为了他们扩张的动力。由于生成逼真的虚假裸照的成本极低，追逐利润似乎依赖于吸引尽可能多的用户。
目前，Clothoff的年度预算约为350万美元。自推出以来，它的营销方法发生了变化，现在主要依靠Telegram机器人和X频道来 targeting 有可能使用其应用的年轻男性。
营销策略：名人效应与目标用户
《明镜周刊》的报告揭示了Clothoff的“大规模营销计划”，旨在扩张到德国市场。据称，该计划的关键是制作“知名网红、歌手和女演员的裸照”，并以“你选择你想给谁脱衣服”的标语来吸引广告点击。一些在该计划中被提及的明星向《明镜周刊》证实，她们从未同意这种使用她们肖像的方式，其中一些明星的代表表示，如果该活动启动，她们将采取法律行动。
然而，即使是像Taylor Swift这样的名人，也难以阻止虚假裸照在网上的传播，而像Clothoff这样的工具正越来越多地被用于折磨初高中女生。
类似的明星营销活动计划也在其他市场进行，包括英国、法国和西班牙市场。值得注意的是，Clothoff已经成为美国的一个常用工具，不仅是旧金山市检察官诉讼的目标，也是新泽西州一名高中生提起的诉讼中的目标。这名高中生起诉了一名男生，该男生使用Clothoff将她14岁时拍摄的Instagram照片裸化，然后与其他男生在Snapchat上分享。
Clothoff似乎希望吸引更多世界各地的年轻男孩使用其应用。举报人告诉《明镜周刊》，Clothoff的大部分营销预算都用于“在Telegram频道、Reddit的性版块和4chan上发布广告”。Reddit表示，自2024年以来，Clothoff的URL已被Reddit禁止，并且“Reddit不允许针对NSFW内容进行付费广告或以其他方式将其货币化”。
在广告中，该应用计划专门 targeting “16至35岁之间的男性”，他们喜欢“表情包”和“电子游戏”等无害的东西，以及“右翼极端主义思想”、“厌女症”和“Andrew Tate”等更有毒的东西。Andrew Tate是一位因向青少年男孩宣传厌女观点而受到批评的网红。
法律的挑战与受害者的困境
旧金山市检察官Chiu希望通过关闭Clothoff以及他的诉讼中 targeting 的其他几款裸照应用来保护越来越多的成为虚假裸照 targeting 的年轻女性。但到目前为止，虽然Chiu已经达成和解，关闭了两个网站porngen.art和undresser.ai，但通过可用的法律渠道向Clothoff送达传票的尝试尚未成功。Chiu办公室的副新闻秘书Alex Barrett-Shorter表示，Chiu的办公室正在继续努力通过可用的法律渠道向Clothoff送达传票，这些渠道随着诉讼在法院系统的进展而不断演变。
与此同时，Clothoff继续发展，最近推出了一项功能，据称吸引了超过一百万的用户，他们渴望用一张照片制作露骨视频。
Clothoff否认计划使用网红
《明镜周刊》试图揭露Clothoff的运营者，最终追踪到了东欧，此前记者偶然发现了一个“意外地在互联网上公开的数据库”，该数据库似乎暴露了“该网站背后的四个核心人物”。
《明镜周刊》表示，这与一位举报人的说法“一致”，即所有Clothoff员工“都在前苏联国家工作”。此外，《明镜周刊》指出，其审查的所有Clothoff内部通讯都是用俄语写的，并且该网站的电子邮件服务位于俄罗斯。
一位自称是Clothoff发言人的人士Elias否认认识其调查中标记的任何四个人，并对300万美元的预算数字提出异议。Elias声称，保密协议阻止他进一步讨论Clothoff的团队。然而，在联系后不久，《明镜周刊》注意到Clothoff撤下了该数据库，该数据库的名称翻译为“我的宝贝”。
关于全球扩张的共享营销计划，Elias否认Clothoff打算使用名人网红，并表示“Clothoff禁止未经他人同意使用他人的照片”。他还否认Clothoff可以用来裸化未成年人的图像；然而，一位匿名接受《明镜周刊》采访的Clothoff用户证实，他最初尝试生成一位美国歌手的虚假裸照失败了，因为她“看起来可能未成年”。但几天后，他的第二次尝试成功生成了虚假裸照，没有任何问题。这表明Clothoff的年龄检测可能并不完美。
随着Clothoff的增长似乎势不可挡，这位用户向《明镜周刊》解释了他为什么在使用该应用生成一位著名歌手的虚假裸照时并不感到矛盾。
这位用户辩解道：“互联网上已经有很多她的照片了。”
然而，这位用户划清了底线，他坚持认为：“如果我得知有人制作我女儿的此类照片，我会感到恐惧。”
对于那些似乎对制作同学的虚假裸照轻描淡写的年轻男孩来说，后果从停学到青少年刑事指控不等，对于某些人来说，可能还有其他代价。在一宗高中生试图起诉一名使用Clothoff欺负她的男孩的诉讼中，参与群聊的男孩目前抵制分享他们手机上的证据。如果她胜诉，她要求每张分享的图像赔偿15万美元，因此分享聊天记录可能会增加价码。
自从她和旧金山市检察官分别提起诉讼以来，《停止传播法案》已经通过。该法案更容易迫使平台删除AI生成的虚假裸照。但专家预计，由于担心审查制度，该法律将面临法律挑战，因此这种非常有限的法律工具可能无法经受住审查。
无论如何，《停止传播法案》对于美国裸照应用的最早受害者来说来得太晚了，由于法律不明确，生成虚假裸照是否违法，他们中只有一部分人正在诉诸法庭寻求正义。
这位高中生的起诉书指出：“简·多伊是众多已经并将继续受到人工智能生成的非自愿色情制品剥削、虐待和伤害的女孩和妇女之一。”“尽管已经受到被告行为的伤害，简·多伊不得不提起诉讼以保护自己和她的权利，因为本应保护妇女和儿童免受使用AI生成儿童色情制品和非自愿裸体图像的侵害和剥削的政府机构未能做到这一点。”
Ashley Belanger Senior Policy Reporter
深伪技术的滥用与法律的滞后
AI换脸应用Clothoff的案例，揭示了深伪技术被滥用于制造和传播非自愿色情制品的严重问题。尽管面临法律诉讼和公众谴责，Clothoff仍然通过 Telegram、Reddit 和 4chan 等渠道进行大规模营销，targeting 年轻男性，并计划利用名人效应进一步扩张市场。这一现象不仅对受害者造成了巨大的精神伤害，也对现有的法律体系提出了挑战。
技术的双刃剑
人工智能技术在内容创作领域的应用日益广泛，但同时也带来了伦理和法律问题。深伪技术，作为一种新兴的 AI 技术，可以用于创作逼真的图像和视频，但也容易被滥用于制造虚假信息、诽谤和色情制品。Clothoff 的案例表明，深伪技术的滥用已经对个人和社会造成了严重的危害。
法律的滞后性
面对深伪技术的快速发展和滥用，现有的法律体系显得滞后。尽管一些国家和地区已经开始制定相关法律法规，但由于技术本身的复杂性和快速变化，法律的适用性和有效性仍然面临挑战。《停止传播法案》的通过，旨在更容易地删除 AI 生成的虚假裸照，但其是否会因审查制度问题而面临法律挑战，仍然有待观察。此外，对于那些已经成为裸照应用受害者的人来说，由于法律的不明确，他们寻求正义的道路仍然充满不确定性。
受害者的困境
深伪色情制品的受害者往往面临着巨大的精神压力和社会污名化。由于技术的逼真性，这些虚假图像和视频往往难以辨认，给受害者造成了严重的困扰。此外，由于法律的滞后和执行的困难，受害者往往难以通过法律途径维护自己的权益。
行业白皮书：应对深伪技术的挑战
为了应对深伪技术带来的挑战，我们需要采取多方面的措施，包括技术手段、法律法规和社会教育。
- 加强技术监管：政府和行业组织应加强对 AI 技术的监管，建立完善的审查和监管机制，防止 AI 技术被滥用于制造和传播有害信息。
- 完善法律法规：各国应尽快制定完善的法律法规，明确深伪技术的法律责任，加大对深伪色情制品制造者和传播者的打击力度。
- 提高公众意识：加强公众教育，提高公众对深伪技术的认识和辨别能力，减少虚假信息和色情制品对社会的危害。
- 加强国际合作：深伪技术的滥用是一个全球性问题，需要各国加强合作，共同应对挑战。
结语
AI换脸应用Clothoff的案例，再次敲响了警钟。在享受技术带来的便利的同时，我们必须警惕技术的滥用，加强监管，完善法律，共同维护一个健康、安全的网络环境。
