在数字技术飞速发展的今天，人工智能(AI)为我们带来了前所未有的便利，但同时也催生了新型犯罪手段。近日，一位17岁少女因遭遇AI换衣App生成的虚假裸照而提起诉讼，指控该平台大规模制造和传播儿童性虐待材料(CSAM)和非自愿亲密图像(NCII)。这起案件不仅揭示了AI技术被滥用于侵犯隐私的严重问题，更反映了受害者面临的心理创伤和长期恐惧。
诉讼背景："生活在持续的恐惧中"
这位获得匿名的少女在诉讼文件中描述，她生活在"持续的恐惧"中。她的指控对象是ClothOff平台，这是一个能够将普通Instagram照片转化为虚假裸照的AI应用。据称，该平台在少女14岁时就利用她的Instagram照片生成了CSAM材料，给她带来了难以磨灭的心理创伤。
ClothOff的操作远不止推广单一应用。少女的诉讼指出，该平台与至少10个其他服务相关联，这些服务使用相同的技术，声称"不断改进"，可以对"任何人"的图像进行"脱衣"处理。更令人担忧的是，开发者可以通过API直接访问这项技术，少女指控该API"允许用户创建私人CSAM和NCII，包括'最极端类型的内容，同时更好地规避检测'"。
平台运作模式：技术滥用与商业利益
诉讼文件揭示了ClothOff的运作模式和商业逻辑。据称，ClothOff及其相关应用每天平均生成20万张图像，自推出以来已吸引至少2700万访客。对于寻求"优质内容"的用户，ClothOff接受2至40美元的信用卡或加密货币支付，其"唯一目的"就是"诱使用户轻松、快速、匿名地获取可识别个人的CSAM和NCII，这些图像几乎无法与真实照片区分"。
ClothOff不会在图像上添加任何标记以表明其虚假性，使得不了解图像来源的观看者无法判断图像的真实性。一旦创建，这些图像可以在不知情和未经受害者同意的情况下被无限分享。
更令人不安的是，ClothOff允许用户创建虚假裸照图库，暗示该平台可能存储受害者图像。这让少女感到恐惧，她担心ClothOff正在利用她的图像进行训练，以"更好地生成其他女孩的CSAM"。
平台辩解与事实不符
ClothOff尚未对诉讼作出回应，但其网站声称公司从不保存数据，并且"不可能"对未成年人的图像进行"脱衣"处理。任何尝试生成未成年人虚假裸照的行为都将导致账户封禁。
然而，少女的诉讼指出，当ClothOff基于她14岁时拍摄的Instagram照片生成CSAM时，此类免责声明并未发布。诉讼文件称："无论如何，ClothOff的这种免责声明是无效和虚假的，指控ClothOff用户当时仍然可以上传18岁以下穿衣女孩的照片以获取她们的CSAM，而ClothOff并未采取任何措施阻止这种行为。"
Telegram的责任与行动
Telegram似乎已经采取行动移除了ClothOff机器人，并可能寻求结束其在诉讼中的参与。一位发言人在《华尔街日报》上表示："非自愿色情及其创作工具明确违反了Telegram的服务条款，一旦发现就会被移除。"
对于起诉少女来说，主要目标仍然是ClothOff本身。据《华尔街日报》报道，她的律师认为，如果ClothOff不作出回应且法院授予她默认判决，她有可能在美国获得对该应用及其相关网站的禁令。
受害者的长期创伤
无论诉讼结果如何，少女预计她将永远被那个高中生生成的虚假裸照所"困扰"。据《华尔街日报》报道，这位少女起诉了那个据说让她想辍学的高中男生。她的投诉指出，她被告知"责任人和其他潜在目击者未能合作、交谈或向执法部门提供其电子设备的访问权限"。
少女感到"羞辱和情绪极度痛苦，此后一直经历持久的后果"。她的投诉称。她不知道ClothOff是否可以继续传播有害图像，也不知道有多少青少年可能在网上发布了这些图像。由于这些未知因素，她确信自己将花费"余生"监控"这些图像的重新出现"。
"知道她的CSAM图像几乎不可避免地会进入互联网并传播给他人，如恋童癖者和贩卖者，这产生了绝望感"，以及"一种永久的恐惧，即她的图像可能随时重新出现并被无数人观看，甚至是朋友、家人、未来伴侣、学院和雇主，或广大公众"，她的投诉说。
法律背景与更广泛的斗争
少女的诉讼是更广泛打击AI生成CSAM和NCII的最新战线。这起案件紧随去年旧金山城市检察官大卫·丘(David Chiu)提起的前期诉讼，该诉讼针对ClothOff等16个流行的"换衣"应用，主要用于"换衣"女性和年轻女孩的照片。
据《华尔街日报》报道，大约45个州已将虚假裸照定为犯罪行为。今年早些时候，唐纳德·特朗普签署了《Take It Down法案》成为法律，该法案要求平台在受害者报告后48小时内移除真实和AI生成的NCII。
案件意义与未来展望
这起案件的意义远超个人受害范畴，它代表了数字时代隐私保护与技术创新之间日益尖锐的矛盾。随着AI技术的普及，生成虚假图像变得越来越容易，而受害者的权益保护却面临巨大挑战。
少女要求法院干预以结束ClothOff的运营，阻止所有与其相关的域名，并防止任何营销或推广，包括通过Telegram机器人。她还要求删除她的图像以及ClothOff可能存储的所有CSAM和NCII，并因遭受"强烈"情绪痛苦而要求惩罚性赔偿。
这起案件可能为全球打击AI生成非法图像提供重要法律先例，同时也促使科技公司和监管机构重新思考如何在保护创新的同时，防止技术被滥用于侵犯隐私和造成伤害。
在数字时代，我们每个人都可能成为技术滥用的受害者。这起案件提醒我们，在享受科技便利的同时，必须建立更强大的法律框架和技术防护措施，保护个人隐私和尊严不受侵犯。只有技术创新与法律保护齐头并进，我们才能构建一个既开放又安全的数字未来。
