从物理到生成AI:用于先进模式生成的AI模型

煤油灯科技2024-05-04 11:00

生成式人工智能(Generative AI)目前正在引起广泛讨论的浪潮中,它承诺创造一个世界,简单从而变得复杂,简单的分布进化为图像、声音或文本中错综复杂的模式,使人工智能变得惊人地真实。

想象的领域不再仅仅是抽象的存在,因为麻省理工学院计算机科学与人工智能实验室(CSAIL)的研究人员们将一种创新的人工智能模型变成了现实。他们的新技术将两个看似无关的物理法则融合在一起,这两个法则支持迄今为止表现最佳的生成模型:扩散(diffusion),通常用来描述元素的随机运动,比如热量在房间中的传播或气体在空间中的膨胀,以及泊松流(Poisson Flow),利用了电荷活动的原理。

这种和谐的融合使得PFGM++在生成新图像方面表现出优越的性能,超过了现有最先进的模型。自从创立以来,PFGM++(Poisson Flow Generative Model++)已经在各个领域找到了潜在的应用,从抗体和RNA序列的生成到音频制作和图形生成。该研究成果已经发表在arXiv预印本服务器上。

这个模型可以生成复杂的模式,比如创造逼真的图像或者模拟现实世界的过程。PFGM++是基于团队去年的一项工作PFGM之上发展起来的。PFGM从数学方程式“泊松”方程式的背后得到启发,然后将其应用到模型试图从中学习的数据上。

为了实现这一点,该团队采用了一个巧妙的技巧:他们在模型的“空间”中增加了一个额外的维度,有点像从二维草图转变为三维模型。这个额外的维度给予更多的操作空间,使得数据具有更大的背景,并且在生成新样本时可以从各个方向处理数据。

“PFGM++是物理学家和计算机科学家之间跨学科合作推动的人工智能进步的一个例子,”麻省理工学院核科学实验室理论粒子物理学家Jesse Thaler说道,他不参与这项工作。

Thaler解释说:“近年来,基于人工智能的生成模型产生了许多令人瞩目的结果,从逼真的图像到连贯的文本流。令人惊讶的是,一些最强大的生成模型基于物理学中经得起时间考验的概念,比如对称性和热力学。”

Thaler解释道:“PFGM++是从基础物理学的一个世纪 old 的思想中得到启发,即空间-时间可能存在额外维度,然后将其转变为一个强大而稳健的工具,用于生成合成但真实的数据集。我很高兴看到‘物理智能’正在如何改变人工智能领域。”

PFGM的基本机制并不像听起来那么复杂。研究人员将数据点与放置在维度扩展世界中的平面上的微小电荷进行了比较。这些电荷产生了一个“电场”,电荷试图沿着电力线向上移动到额外的维度,并且因此在一个巨大的想象的半球面上形成了一个均匀分布。

生成过程类似于倒带一盘录像带:从半球面上的均匀分布的一组电荷开始,沿着电力线追踪它们的运动,它们会对齐以适应原始数据分布。这个有趣的过程使得神经模型可以学习电场,并生成反映原始数据的新数据。

PFGM++模型将PFGM中的电场扩展到一个错综复杂的高维框架中。当不断扩展这些维度时,会发生一些意想不到的事情——模型开始类似于另一类重要模型,即扩散模型。这项工作的关键在于找到合适的平衡点。PFGM和扩散模型处于光谱的两端:一个稳健但难以处理,另一个简单但不够稳固。

PFGM++模型提供了一个平衡点,能够在稳健性和易用性之间达到平衡。这种创新为更高效的图像和模式生成铺平了道路,标志着科技的重要一步。除了可调整的维度,研究人员还提出了一种新的训练方法,可以更高效地学习电场。

为了使这个理论变为现实,团队解决了一对说明了这些电荷在电场中运动的微分方程。他们使用了广泛接受的指标Frechet Inception Distance(FID)评估模型生成的图像与真实图像的质量。PFGM++还在微分方程的步长方面表现出更高的抗错误性和稳健性。

你可能也喜欢这些文章

科技互联网,科技,资讯,动态,洞察,量子,计算,AI,人工智能,机器人,区块链,Web3,分布式,操作系统,OS,芯片,视频,深度,论文