我们正处在创建虚假媒体变得越来越容易的时代，Deepfakes、稳定扩散、生成对抗网络 (GAN) 和许多其他 AI 技术使用户能够操纵照片和视频，能创建看起来从未发生过的事件的逼真媒体。
虽然 AI 生成的艺术和媒体有许多积极的应用，但它们也可以用于邪恶的目的。凭借无缝操纵和扭曲现实的能力，不良行为者可以使用 AI 来欺骗公众并传播错误信息。
在本中，我将简要探讨 deepfakes 的威胁，并提供一些检测 AI 生成媒体的技巧。该领域发展迅速，因此您必须留意新技术和对策。
人工智能生成的媒体
教皇穿着羽绒服，美国前总统唐纳德特朗普试图逃避逮捕，乌克兰总统泽伦斯基呼吁向俄罗斯投降的视频，这些事件都没有发生，但他们的照片和视频已经在社交媒体上流传。
这些是使用 AI 系统创建的图像和视频。今天，有几种深度学习技术可以创建虚假媒体：
- – Deepfakes：Deepfakes 使用两个深度神经网络来学习演员和目标的面部特征，然后它将目标的脸映射到演员的头上。使用今天的算法，deepfakes 已经变得非常有说服力和现实。
- –扩散模型：这些是在大量图像和字幕数据集上训练的神经网络。通过找到将文本连接到图像的模式，这些模型可以从文本描述中生成令人信服的图像。DALL-E 2、Midjourney 和 Stable Diffusion 是流行扩散模型的三个示例。
- –生成对抗网络：GAN 是深度学习系统，可以从头开始创建逼真的图像，例如人脸和风景。
人工智能生成媒体的潜在危害
Midjourney 生成的假图像声称美国前总统唐纳德特朗普拒绝警方逮捕
Deepfakes 已经存在了好几年。但该领域在过去几年取得了令人瞩目的进步。与语音合成器和大型语言模型等其他生成式 AI 技术一起，AI 生成的内容可能成为真正的威胁。
虽然我们仍处于可以检测 AI 生成的媒体的阶段，但值得注意的是它们如何影响公众舆论：
- –错误信息的传播：图片和视频在社交媒体上的传播速度非常快。当事实核查员或 AI 生成媒体的目标有时间做出回应时，损害可能已经造成。特别是 deepfakes 的创造者可以将它们与逼真的 AI 生成的声音结合起来，它们可以变得非常有说服力。
- –曼德拉效应：很多人都记得 1980 年代纳尔逊·曼德拉死于南非监狱的一件事。实际上，他于 1990 年出狱，后来成为南非总统。但尽管真相显而易见，但这个虚假的故事已经深深植根于许多人的脑海中。这被称为“曼德拉效应”，还有许多其他例子被记录在案。使用 deepfakes，此类问题可能会更频繁地出现。
- –社会工程： Deepfakes 和生成式 AI 使制作令人信服的电子邮件、视频、网站等以及开展网络钓鱼活动变得更加容易。不良行为者可以使用这些模型来创建逼真的化身、制作专业电子邮件以及创建听起来像真人的语音消息。他们可以使用这些数据来欺骗受害者泄露秘密、向攻击者汇款或进行其他有害活动。
- –信任的侵蚀： deepfakes 的兴起将使人们更难相信他们看到的任何东西。确定什么是真什么是假将变得越来越困难。一方面，坏人会试图用生成式 AI 来歪曲事实。另一方面，他们可能会否认真实的证据，并声称真实的文件和视频是由人工智能生成的。
如何检测 AI 生成的媒体
研究人员不断创造新的技术和工具来检测深度换脸和其他人工智能系统生成的图像和视频。但这是一场猫捉老鼠的游戏，随着技术的进步，旧的检测技术已经过时。目前，这里有一些关键方法可以帮助您检测 deepfake 视频、GAN 人脸和扩散模型生成的图像：
- –面部扭曲： Deepfakes 和 GAN 生成的面部通常在整个表面的光照方面存在不一致。您还可以在细节和边缘所在的位置找到扭曲。特别注意发际线、眉毛、面部毛发、耳环，尤其是眼镜框。
GAN 人脸有清晰可见的伪像
- –眼睛和嘴唇的运动：在 deepfake 视频中，要特别注意面部的运动部位。阴影是否一致？眨眼看起来逼真吗？对象说话时嘴巴和牙齿看起来自然吗？
- –光照和反射：生成模型试图预测场景中的光照。当然，并不是所有的预测都是正确的，所以如果你仔细观察，你会发现阴影和反射偶尔会出现故障。这些是人工智能生成图像的明显迹象。
- – 比例：扩散模型生成的图像通常有错误的比例，例如手臂、脚、前臂等的长度错误。这些一开始可能并不明显，但仔细观察很快就会发现 AI 生成的图像。
- –详细对象：当前的生成模型在组合性和详细对象方面尤其糟糕。观察诸如手、建筑物、具有许多部分的物体等事物。图像的背景通常会包含一些明显的错误。
- 出处：当然，检测 deepfakes 和 AI 生成的图像的重要方法之一是验证它们的出处。在 Google 或 Bing 上进行反向图像搜索，看看该图像是否出现在社交媒体以外的任何地方。查看是否有任何知名媒体报道了该事件。如果图像更私人并且与朋友或家人有关，请在相信自己的眼睛之前直接与他们核实。
结论
Deepfake 技术有可能创建虚假或误导性内容，以各种方式伤害个人或群体。然而，deepfake 技术也可以在娱乐、媒体、政治、教育、艺术、医疗保健和可访问性方面发挥积极作用。因此，重要的是要平衡 deepfake 技术的风险和收益，并开发有效且合乎道德的方法来检测、预防和监管它。
为了实现这一目标，政府、平台、研究人员和用户需要通力合作，协调努力，并提高他们的意识和责任感。通过这样做，我们可以利用 deepfake 技术的力量和潜在好处，同时最大限度地减少其危害。
