图片应用程序通过数字化地脱去女性的衣物，通过生成“AI女孩”并创造性地文本到图像提示、操纵图片来支持“性威胁”勾当，使得深度伪造色情内容的兴起超过了美国和欧洲对该技术进行监管的努力。

人工智能启用的深度伪造通常与伪造的病毒图像一起被认为是与著名人物有关，比如教皇弗朗西斯穿着轻便外套或唐纳德·特朗普被拘留，但专家表示，它们更广泛地用于生成伤害普通人生活的非自愿色情内容。

人工智能工具和应用程序广泛地针对女性，这些工具和应用程序可以免费获取，无需技术专长，允许用户从图片中的数码形式上脱掉衣物，或将他们的面孔插入具有性暗示的视频中。

“AI生成色情内容和深度伪造色情内容使得使用一个女性的形象或相似形象而不经她的同意成为正常现象，”宾夕法尼亚大学研究图像性虐待的研究员Sophie Maddocks告诉法新社。

“当你可以几乎脱去任何女性的衣物时，我们向社会传达了关于同意的什么样的信息？”

在一段哭泣的视频中，美国Twitch主播QTCinderella抱怨女性“不断的剥削和物化”，她成为深度伪造色情内容的受害者。她补充说，那些描绘她的深度伪造图像的人对她进行骚扰。

这一丑闻发生在流媒体主播Brandon Ewing的直播中，他在直播中被发现浏览一个包含多位女性（包括QTCinderella）深度伪造性图片的网站。

“这并不像‘只是’违反。它不仅仅是这样，”她在推特上写道，表示这次经历“毁了”她。

“超真实”

在线深度伪造数量的增加凸显了人工智能增强虚假信息的威胁，这些虚假信息可能会损害声誉，并导致欺凌或骚扰行为。

虽然像歌手泰勒·斯威夫特和女演员艾玛·沃特森这样的名人成为深度伪造色情的受害者，但那些不为公众所知的女性也是被针对的。

美国和欧洲的媒体上充斥着来自学者到活动人士的第一手证言，他们震惊地发现自己的面孔出现在深度伪造色情内容中。

根据荷兰人工智能公司Sensity于2019年进行的一项研究，在线深度伪造视频中有96%是非自愿的色情内容，它们中大多数描绘的是女性。

“以前发生在人的思想中的性幻想这个私人行为，现在被转移到了技术和内容创作者身上，进入了现实世界，”Blackbird.AI情报总监Roberta Duffield告诉法新社。

“得益于容易获取和缺乏监管，以及行业越来越专业化，这些技术使女性落入了新形式的剥削和贬低。”

在新一批文本到艺术生成器中，有些免费应用程序可以创建“超真实的AI女孩”——以真实照片为基础的头像，并通过诸如“深色皮肤”和“大腿绑带”等提示进行个性化定制。

由Stability AI开发的开源人工智能模型“Stable Diffusion”等新技术使得能够根据文本描述产生逼真的图像成为可能。

“黑暗角落”

技术的进步催生了Duffield所说的围绕AI增强色情内容的“日渐壮大的小产业”，其中许多深度伪造创作者接受付费要求生产以客户选择的人物为特色的内容。

上个月，美国联邦调查局发出了有关“性敲诈计划”的警告，欺诈分子通过从社交媒体中获取照片和视频来创建“以性为主题”的深度伪造色情内容，然后用于勒索金钱。

FBI补充说，受害者包括未成年儿童和未经同意的成年人。

AI工具的普及已经超过了监管。

“这不是一些图像被创造和分享的互联网的黑暗角落，”AI品牌保护公司Ceartas的首席执行官和创始人丹·珀塞尔告诉法新社。

“它就在我们眼前。而且，法律需要赶上。”

在英国，政府提出了一项新的在线安全法案，旨在将分享色情深度伪造图像定为犯罪。

包括加利福尼亚和弗吉尼亚在内的美国四个州已经将深度伪造色情内容的传播定为非法行为，但如果制作者位于这些管辖区之外，受害者往往几乎没有法律救济途径。

今年5月，一位美国议员提出了防止分享非自愿深度伪造色情图片法案，该法案将分享非自愿深度伪造色情内容定为非法行为。

诸如Reddit等受欢迎的在线空间也试图监管其蓬勃发展中的AI色情社区。

“互联网是一个没有边界的司法管辖区，需要有统一的国际法来保护人们免受这种剥削，”珀塞尔说。