“换脸”已不再是深度伪造的全部内容，如今它还包括完全捏造的场景、声音和环境。

为了反击，加州大学河滨分校的研究人员与谷歌联手创建了UNITE，这是一个尖端的人工智能系统，即使画面中没有人脸，它也能检测出深度伪造视频。与依赖面部线索的旧工具不同，UNITE会分析完整的视频帧——包括动作和背景的不一致之处——以揭露合成或篡改的内容。随着人工智能生成的视频变得越来越逼真，这一强大的检测系统对于保护新闻编辑室、社交平台和公众信任来说可能至关重要。

揭露视频造假的新时代

随着逼真度越来越高的虚假视频的制作变得越来越容易，并被更广泛地用于传播错误信息、瞄准个人并造成伤害，加利福尼亚大学河滨分校的研究人员开发了一种新的人工智能系统，旨在检测这些数字伪造品。

电气与计算机工程教授阿米特•罗伊•乔杜里（Amit Roy-Chowdhury）和来自加州大学河滨分校马兰和罗丝玛丽•伯恩斯工程学院（Marlan and Rosemary Bourns College of Engineering）的博士研究生罗希特•昆杜（Rohit Kundu）与谷歌团队携手合作，共同构建了一个人工智能模型，该模型可以识别视频篡改行为，即使其中涉及的不仅仅是简单的换脸或音频修改。（罗伊•乔杜里还是加州大学河滨分校人工智能研究与教育（RAISE）学院的联合主任，该学院是加州大学河滨分校最近成立的一个跨学科中心。）

该工具名为“篡改与合成视频通用识别网络”（UNITE），其工作原理是对整个视频帧进行分析，而不仅仅关注人脸。它会检查背景细节和运动模式，使其成为首批能够识别出篡改或完全合成的视频片段的系统之一，而这些识别并不依赖于面部线索。

从换脸到完全伪造的世界

“换脸技术已经发展了，”昆杜说，“它不再只是关于换脸。人们现在正在使用强大的生成模型制作完全虚假的视频，从人脸到背景都是假的。我们的系统旨在捕捉所有这一切。”

UNITE发布之际，网络上人工智能驱动的文本转视频和图像转视频工具越来越容易获取。这些技术使得几乎任何人都能制作出逼真的假视频，这引发了公众人物、组织以及对民主进程完整性的重大担忧。

“这些工具如此唾手可得，想想都可怕，”孔杜说，“任何具备一定技能的人都可以绕过安全过滤器，生成公众人物说出他们从未说过的话的真实视频。”

无需人脸的探测器

昆杜解释说，早期的深度伪造检测器几乎完全依赖于面部线索。

他说：“如果画面中没有人脸，许多检测器根本无法工作。但虚假信息可以以多种形式出现。更改场景背景同样可以轻易歪曲事实。”

为了解决这个问题，UNITE使用基于Transformer的深度学习模型来分析视频片段。它能检测出细微的空间和时间不一致性——这是以往的系统经常忽略的线索。该模型借鉴了一个名为SigLIP的基础人工智能框架，该框架能够提取不受特定人或物体限制的特征。一种名为“注意力多样性损失”的新型训练方法，使系统能够监控每一帧中的多个视觉区域，防止其仅关注人脸。

一个模型检测所有

其结果是，他们研发出了一种通用检测器，能够识别出一系列伪造手段——从简单的换脸到复杂的、无需任何真实镜头即可生成的完全合成的视频。

“这是一种能应对所有情形的模型，”昆杜说，“这就是它的通用性所在。”

研究人员在田纳西州纳什维尔举行的2025年计算机视觉与模式识别（CVPR）高级会议上介绍了他们的研究成果。这篇由昆杜领衔的论文题为《迈向通用合成视频检测器：从面部或背景篡改到完全由人工智能生成的内容》，概述了UNITE的架构和训练方法。论文的合著者包括谷歌研究人员熊浩、莫汉蒂·维沙尔和巴拉钱德拉·阿图拉。CVPR由电气和电子工程师协会（IEEE）计算机学会和计算机视觉基金会联合赞助，是全球最具影响力的科学出版物之一。

由谷歌资源提供支持

库恩杜曾在谷歌实习，与谷歌的合作使他获得了庞大的数据集和所需的计算资源，得以对模型进行广泛合成内容的训练，包括根据文本或静态图像生成的视频——这些格式往往会让现有的检测器失灵。

虽然仍在开发中，但UNITE在防御视频虚假信息方面可能很快就会发挥至关重要的作用。潜在用户包括社交媒体平台、事实核查员和新闻编辑室，他们都致力于防止被篡改的视频大肆传播。

“人们有权知道他们看到的东西是否真实，”昆杜说，“随着人工智能伪造现实的技术日益精进，我们也必须提高揭露真相的能力。”

参考文献：罗希特·昆杜、浩雄、维沙尔·莫汉蒂、阿图拉·巴拉钱德兰和阿米特·K·罗伊·乔杜里，《迈向通用合成视频检测器：从面部或背景篡改到完全由人工智能生成的内容》，2024年12月16日，计算机科学>计算机视觉与模式识别。arXiv:2412.12278

不要错过任何一项突破：订阅SciTechDaily新闻简报。