伦敦大学学院最新的研究发现，人类只能在73%的时间里辨别出人工生成的语音，而且英语和汉语的准确率相同。这项发表在《PLOS ONE》上的研究是第一个评估人类在非英语语言中辨别人工生成语音能力的研究。

Deepfake是一种旨在模仿真实人的声音或外貌的合成媒体。它属于生成式人工智能（AI）的范畴，即通过机器学习（ML）训练算法来学习一个数据集，如真实人的视频或音频的模式和特征，以便能够生成原始的声音或图像。

早期的Deepfake语音算法可能需要成千上万个人的语音样本才能生成原始音频，而最新的预训练算法只需要使用三秒钟的语音片段就能重新生成一个人的声音。开源算法是免费提供的，尽管一些专业知识会有所帮助，但一个人在几天内即可训练出来。

科技公司苹果最近宣布了一款用于iPhone和iPad的软件，允许用户使用15分钟的录音来创建他们的声音副本。

伦敦大学学院的研究人员使用一个基于两个公开数据集训练的文本到语音（TTS）算法在英语和汉语中分别生成了50个Deepfake语音样本。这些样本与训练算法使用的样本不同，以避免可能的重复生成。

这些人工生成的样本和真实样本被播放给529名参与者，以查看他们是否能够辨别真实的语音与伪造的语音。参与者在辨别伪造语音方面的准确率仅为73%，即使经过训练以识别Deepfake语音的特点后，准确率也只有稍微提高。

该研究的第一作者、伦敦大学学院计算机科学专业的金百娜表示：“我们的研究结果证实，人类无法可靠地辨别Deepfake语音，无论他们是否接受过帮助他们识别人工内容的训练。值得注意的是，我们在这项研究中使用的样本是相对较旧的算法生成的，这引发了一个问题，即人类是否会在现在和未来使用最先进的技术生成的Deepfake语音中更难以辨别。”

研究人员的下一步是开发更好的自动语音检测器，作为持续努力的一部分，以对抗人工生成音频和图像的威胁。

尽管生成式AI音频技术有益处，如让那些语言能力受限或因疾病而失去声音的人更容易获得信息，但越来越多的担忧认为这种技术可能被犯罪分子和国家利用来对个人和社会造成重大伤害。

已经有记录的Deepfake语音被犯罪分子使用的案例，包括2019年一起事件，一名英国能源公司的首席执行官被一段他上司声音的Deepfake录音说服向一个虚假供应商转款数十万英镑。

该研究的高级作者、伦敦大学学院计算机科学专业的刘易斯·格里芬教授表示：“随着生成式人工智能技术变得越来越复杂，许多这些工具都是公开可用的，我们正处于看到众多好处以及风险的边缘。政府和机构应该制定对抗这些工具滥用的策略，当然，我们也应该认识到前景中积极的可能性。”