在数字时代,人工智能(AI)的应用日益广泛,但同时也带来了一系列伦理和社会问题。其中,利用AI技术制作深度伪造色情内容的应用,如Clothoff,正引起全球范围内的关注和争议。这类应用通过低成本、快速生成虚假裸照,对个人和社会造成了严重危害。
Clothoff的崛起与争议
Clothoff作为一款领先的“裸化”应用,能够迅速且廉价地将真实人物的图像转换为虚假裸照。这款应用在全球范围内扩张,旨在继续主导网络上的深度伪造色情内容。尽管面临法律诉讼和公众压力,Clothoff似乎并未受到太大影响,反而通过收购其他类似应用,扩大其市场份额。据报道,Clothoff目前拥有至少10个其他的“裸化”服务,每月吸引数十万甚至数百万的浏览量。这种扩张的背后,是公司员工日益增长的“玩世不恭”和对金钱的“痴迷”。
商业模式与营销策略
Clothoff的商业模式依赖于吸引大量重复用户。通过低廉的制作成本,该应用能够以极低的价格生成逼真的虚假裸照,从而吸引用户不断使用。目前,Clothoff的年预算约为350万美元,其营销策略也随着时间推移而不断演变。最初,该应用主要通过传统广告渠道进行推广,但现在已转向Telegram机器人和X平台(原Twitter),以精准 targeting 可能对其应用感兴趣的年轻男性。
市场扩张与名人效应
根据泄露的信息,Clothoff计划大规模进军德国市场。其策略包括制作知名网红、歌手和演员的虚假裸照,并以“你选择想给谁脱衣服”为口号来吸引用户点击广告。这一计划引起了相关名人的强烈不满,她们表示从未同意将其形象用于此类用途,并威胁将采取法律行动。然而,即使是像泰勒·斯威夫特这样的名人,也难以阻止深度伪造裸照在网络上的传播。与此同时,像Clothoff这样的工具正越来越多地被用于骚扰中小学生。
法律诉讼与监管挑战
旧金山市检察官大卫·邱曾对Clothoff等“裸化”应用提起诉讼,希望能够迫使其关闭。尽管邱成功地关闭了两个网站porngen.art和undresser.ai,但试图通过法律途径送达传票给Clothoff的尝试均未成功。邱的办公室仍在继续努力,但法律途径的进展十分缓慢。与此同时,Clothoff仍在不断发展,最近还推出了一项新功能,声称已吸引超过一百万用户,他们渴望通过单张照片制作露骨视频。
幕后团队与否认声明
《明镜周刊》的调查显示,Clothoff的运营者位于东欧。记者们偶然发现了一个“意外在互联网上公开的数据库”,其中暴露了“网站背后的四个核心人物”。这些信息与一位举报人的说法相符,该举报人声称所有Clothoff员工“都在前苏联国家工作”。此外,《明镜周刊》指出,所有Clothoff的内部通讯都是用俄语书写的,并且该网站的电子邮件服务也位于俄罗斯。
一位自称是Clothoff发言人的人士否认认识调查中提到的任何四个人,并对300万美元的预算数字提出异议。该发言人声称,由于保密协议的限制,他无法进一步讨论Clothoff的团队。然而,在《明镜周刊》联系后不久,Clothoff便撤下了该数据库。关于全球扩张的营销计划,该发言人否认Clothoff打算使用名人网红,并声称“Clothoff禁止在未经他人同意的情况下使用其照片”。
技术漏洞与用户行为
Clothoff否认其应用可用于“裸化”未成年人的图像。然而,一位匿名用户向《明镜周刊》证实,他最初尝试生成美国歌手的虚假裸照时失败了,因为她“看起来可能未成年”。但几天后,他的第二次尝试成功生成了虚假裸照,没有任何问题。这表明Clothoff的年龄检测可能并不完美。
随着Clothoff的增长似乎势不可挡,这位用户解释了他为何在使用该应用生成著名歌手的虚假裸照时,感觉并不矛盾。“互联网上已经有很多她的照片了,”这位用户辩解道。然而,这位用户表示,他对生成私人照片持保留态度,并坚称“如果我得知有人制作了我女儿的照片,我会感到震惊。”
法律后果与未来展望
对于那些似乎轻率地创建同学虚假裸照的年轻男孩来说,其后果包括停学甚至青少年犯罪指控,而且对于某些人来说,可能还会有其他代价。在新泽西州的一起诉讼中,一名高中生试图起诉一名使用Clothoff欺负她的男孩。目前,参与群聊的男孩们对分享他们手机上的证据持抵制态度。如果她胜诉,她将要求对每张共享的图像处以15万美元的赔偿金,因此共享聊天记录可能会增加赔偿金额。
自从她和旧金山市检察官分别提起诉讼以来,《删除法案》已经通过。该法案使得强制平台删除AI生成的虚假裸照变得更加容易。但专家预计该法律将面临审查,因此这种非常有限的法律工具可能无法经受住审查。无论如何,《删除法案》对于美国“裸化”应用程序的最早受害者来说来得太晚了,由于法律的不明确,他们中的一些人正在诉诸法庭寻求正义。
这位高中生的诉状指出:“简·多伊是众多已经并将继续受到人工智能生成的非自愿色情内容剥削、虐待和伤害的女孩和妇女之一。”“尽管已经受到被告行为的伤害,简·多伊被迫提起诉讼以保护自己和自己的权利,因为本应保护妇女和儿童免受使用人工智能生成儿童色情内容和非自愿裸照侵害的政府机构未能做到这一点。”
结论
Clothoff等“裸化”应用的兴起,凸显了在人工智能时代保护个人隐私和尊严的紧迫性。尽管面临法律诉讼和公众压力,这些应用仍在不断发展和扩张,对社会造成了持续的威胁。我们需要更强有力的法律法规和更有效的监管措施,以应对这一日益严峻的挑战。同时,提高公众对深度伪造技术的认知,加强对潜在受害者的保护,也是至关重要的。
未来的监管方向应侧重于以下几个方面:
- 完善法律法规:制定明确的法律,将未经同意制作和传播深度伪造色情内容定为犯罪行为,并加大惩罚力度。
- 加强平台监管:要求社交媒体平台和搜索引擎采取更积极的措施,删除深度伪造内容,并对违规用户进行处罚。
- 提高技术防范能力:开发和应用更先进的AI技术,用于检测和识别深度伪造内容,并及时采取措施阻止其传播。
- 加强国际合作:鉴于深度伪造内容的跨境传播特性,各国应加强合作,共同打击此类犯罪行为。
- 提高公众意识:通过教育和宣传,提高公众对深度伪造技术的认知,增强自我保护意识。
只有通过全社会的共同努力,才能有效应对深度伪造技术带来的挑战,保护个人隐私和尊严,维护社会和谐稳定。