Deep fakes:人工生成图像如何露馅

煤油灯科技2024-07-24 23:58

只需要一个简单的文本命令:人工智能可以在瞬间生成一张看起来像真实照片并且在人类眼中难以区分的图像。虽然有趣,但实际上它会让每张图像的真实性产生怀疑。

在博鲁姆鲁尔大学计算机科学系攻读博士学位期间,乔纳斯·瑞克专注于技术识别虚假图像。他正在寻找区分人工生成的图片和视频与真实的图片和视频的方法。德国鲁尔大学博鲁姆校区的科学杂志《鲁宾》刊登了有关他的项目的一篇文章。

高斯噪声与回归

“目前,由于稳定扩散应用程序的普及,所谓的图像生成扩散模型非常流行。”瑞克尔说:“这个模型的基本原理可能一开始听起来让人惊讶。实际上,一幅真实图像会逐步扩散,通过不断添加高斯噪声,称为扩散的名称。几百步之后,图像信息被完全移除,成为一片杂乱无章的噪声,而模型的目的是为了逆转这个过程,重构原始图像,这是一个棘手的挑战。”

关键不在于直接预测图像,而在于逐步处理它,就像噪声的添加一样。拥有足够的训练数据,模型可以学习将带有噪声的图像变得更清晰。通过反复应用,完全新的图像可以从随机噪声中创建。

揭露社交媒体上的虚假资料

“Ricker相信,扩散模型已经在生成逼真的图像方面取得了非常好的结果,它将继续改进。这将使真实图像与人工生成的图像之间的区分变得更加困难。”

目前,Ricker正在测试不同的方法来区分由模型生成的图像和真实照片。区分真假图像的重要性不仅在于揭露虚假新闻,例如以视频形式传递的虚假新闻,还在于揭露社交媒体上的虚假个人资料。这些虚假资料被大规模地用于操纵公众舆论,影响政治议题的观点。

"这正是卓越集群CASACASA的目标所在:揭露那些有足够手段利用深度伪造技术传播宣传的大规模攻击者,例如政府或情报机构。" Ricker说道。

你可能也喜欢这些文章

科技互联网,科技,资讯,动态,洞察,量子,计算,AI,人工智能,机器人,区块链,Web3,分布式,操作系统,OS,芯片,视频,深度,论文