在数字时代的浪潮下，人工智能（AI）技术正以前所未有的速度渗透到我们生活的方方面面。然而，硬币总有两面，AI在带来便利与创新的同时，也伴随着伦理与法律的挑战。近日，一款名为Clothoff的“裸体化”应用，便引发了关于深度伪造技术滥用的广泛讨论。
Clothoff的崛起与争议
Clothoff，作为一款能够快速、廉价地将真实照片转化为虚假裸照的应用，其背后的运营者却始终隐藏在幕后。尽管面临旧金山市检察官的诉讼，但这款应用似乎并未受到太大影响，反而通过收购其他同类服务，进一步扩大其在深度伪造色情领域的市场份额。据一位前员工透露，Clothoff的运营者们对诉讼“不以为然”，甚至已经“收购了整个裸体化应用网络”。
这种扩张的背后，是公司员工日益增长的“玩世不恭”和对金钱的“痴迷”。随着应用的普及，最初的创业激情逐渐被追逐利润的欲望所取代。由于生成逼真的虚假裸照成本极低，吸引尽可能多的重复用户成为了盈利的关键。
营销策略的转变
目前，Clothoff的年度预算约为350万美元。自成立以来，该应用的市场营销策略发生了显著变化，现在主要依赖于Telegram机器人和X平台（原Twitter）的频道，将广告精准地推送给潜在用户。这些用户画像通常是年轻男性，他们更容易被这类应用所吸引。
据报道，Clothoff制定了一项“大规模营销计划”，旨在扩展到德国市场。该计划的核心是通过制作“知名网红、歌手和演员的裸照”来吸引用户点击广告，并打出“你选择想给谁脱衣服”的标语。尽管计划中提到的部分明星表示从未同意将其肖像用于此类用途，并威胁将采取法律行动，但深度伪造裸照的传播速度和范围，使得即使是泰勒·斯威夫特这样的名人也难以有效阻止。
更令人担忧的是，Clothoff等工具正被越来越多地用于侵害未成年人。从中学到高中，学生们利用这些应用制作同学的虚假裸照，给受害者造成了极大的精神伤害。类似的活动也计划在英国、法国和西班牙等市场推出。在美国，Clothoff不仅面临旧金山市检察官的诉讼，还被一起新泽西州的案件所牵涉。在该案中，一名高中生利用Clothoff将其14岁同学在Instagram上发布的照片进行“裸体化”处理，并分享给其他男生。
营销渠道与目标用户
Clothoff似乎希望吸引更多世界各地的年轻男性使用其应用。据知情人士透露，该应用的大部分营销预算都用于“在Telegram的特殊频道、Reddit的性相关版块以及4chan上投放广告”。值得注意的是，Reddit方面表示，自2024年以来，Clothoff的链接已被禁止在该平台上传播，并且“Reddit不允许针对NSFW内容进行付费广告或以其他方式从中获利”。
在广告中，Clothoff计划专门针对“16至35岁之间的男性”，这些人通常喜欢“表情包”和“电子游戏”等内容，同时也可能对“右翼极端思想”、“厌女症”以及安德鲁·泰特（一位因向青少年宣传厌女观点而备受批评的网红）等话题感兴趣。
旧金山市检察官David Chiu希望通过关闭Clothoff及其它类似应用来保护越来越多的年轻女性免受虚假裸照的侵害。尽管他已经达成和解，关闭了porngen.art和undresser.ai这两个网站，但通过现有法律渠道向Clothoff送达传票的尝试尚未成功。不过，Chiu的办公室表示，他们将继续通过可用的法律渠道来推进此案。
功能迭代与用户增长
与此同时，Clothoff仍在不断发展，最近还推出了一项新功能，声称已吸引了超过一百万用户，他们渴望仅凭一张照片就能制作出露骨的视频。
Clothoff否认计划利用网红
为了揭露Clothoff的运营者，媒体记者对该应用展开了深入调查，并在互联网上发现了一个“意外泄露的数据库”，其中似乎暴露了“该网站背后的四个核心人物”。这一发现与一位举报人的说法相符，该举报人称所有Clothoff员工“都在前苏联国家工作”。此外，记者还注意到，他们审查的所有Clothoff内部通信都是用俄语书写的，并且该网站的电子邮件服务也位于俄罗斯。
一位自称是Clothoff发言人的人士否认认识调查中提到的任何四个人，并对300万美元的预算数字提出异议。这位发言人声称，由于保密协议的限制，他无法进一步讨论Clothoff的团队情况。然而，媒体注意到，在联系后不久，Clothoff便撤下了该数据库，该数据库的名称翻译过来是“我的宝贝”。
关于全球扩张的营销计划，这位发言人否认Clothoff打算使用名人网红，并表示“Clothoff禁止未经他人同意使用其照片”。他还否认Clothoff可以被用来“裸体化”未成年人的照片。然而，一位匿名Clothoff用户证实，他最初尝试生成一张美国歌手的虚假裸照失败了，因为她“看起来可能未成年”。但几天后，他的第二次尝试成功生成了这张虚假裸照，没有任何问题。这表明Clothoff的年龄检测可能并不完善。
道德困境与法律挑战
随着Clothoff的增长似乎势不可挡，一位用户向媒体解释了他为何在使用该应用生成著名歌手的虚假裸照时并不感到 conflicted。
“网上已经有很多她的照片了，”这位用户辩解道。
然而，这位用户表示，他对生成私人个体的虚假裸照持反对态度，并坚称“如果我得知有人制作了我女儿的此类照片，我会感到震惊”。
对于那些似乎对制作同学的虚假裸照持轻率态度的年轻男孩来说，他们面临的后果从停学到少年刑事指控不等，而且对某些人来说，还可能存在其他代价。在一桩高中生试图起诉一名使用Clothoff欺负她的男孩的诉讼中，参与群聊的男孩们目前不愿分享他们手机上的证据。如果她胜诉，她将要求对每张分享的图片赔偿15万美元，因此分享聊天记录可能会增加赔偿金额。
自从她和旧金山市检察官分别提起诉讼以来，《移除法案》已经通过。该法案使得强制平台删除人工智能生成的虚假裸照变得更加容易。但专家预计，由于担心审查制度，该法律将面临法律挑战，因此这种非常有限的法律工具可能无法经受住审查。
无论如何，《移除法案》对于美国裸体化应用的最早受害者来说，是一项姗姗来迟的保障措施，由于法律不明确，他们中的一些人正在诉诸法庭寻求正义，因为生成虚假裸照是否非法尚不清楚。
“简·多伊是众多已经并将继续受到人工智能生成的非自愿色情制品剥削、虐待和伤害的女孩和妇女之一，”这位高中生的诉状指出。“尽管已经受到被告行为的侵害，但简·多伊不得不提起诉讼来保护自己和她的权利，因为本应保护妇女和儿童免受利用人工智能生成儿童色情制品和非自愿裸体图像侵害的政府机构未能做到这一点。”
深度伪造技术的未来
深度伪造技术的快速发展，无疑给社会带来了巨大的挑战。如何在保护个人隐私和尊严的同时，充分利用AI技术的潜力，成为了一个亟待解决的问题。法律的完善、技术的监管以及公众意识的提高，都将是应对这一挑战的关键。
面对AI技术这把“双刃剑”，我们既要保持警惕，防止其被滥用，也要积极探索其在各个领域的应用，为人类社会带来更多的福祉。只有这样，我们才能在AI时代 सुरक्षित地前行，共同构建一个更加美好的未来。
