这种受大脑启发的忆阻器或许终将解决人工智能的“灾难性遗忘”问题

煤油灯科技2025-07-30 09:59

一种新型忆阻器通过模拟和数字行为的结合模仿大脑的学习方式,为人工智能(AI)“灾难性遗忘”问题提供了一个有前景的解决方案。

与传统深度神经网络在学习新知识时会抹去过去的知识不同,这一创新组件能够保留之前的学习内容,就像我们的大脑一样。

理解人工智能中的“灾难性遗忘”

深度神经网络经常会遇到一种被称为“灾难性遗忘”的挑战——当它们被训练从事一项新任务时,往往会覆盖之前学到的东西。相比之下,人类大脑似乎通过调整学习过程中突触变化的强度来避免这一问题。研究人员将这种能力称为“突触可塑性的可塑性”(metaplasticity),即大脑调节自身可塑性的能力。人们认为,这种动态调整有助于我们在不抹去旧记忆的情况下学习新信息。

来自尤利希研究中心彼得·格伦贝格研究所(PGI-7)的伊利亚·瓦洛夫表示:“其独特的性能可使用不同的开关模式来控制忆阻器的调制,从而确保存储信息不会丢失。”

忆阻器的独特之处

随着计算机硬件的发展,忆阻器(memory resistors的缩写)正逐渐成为神经形态计算领域颇具前景的元件。与传统电阻器不同,忆阻器会根据施加在其两端的电压改变电阻,并且至关重要的是,即使在断电后,它们也能记住该电阻值。这种记忆效应源于忆阻器内部的物理变化,例如原子迁移并改变电极结构。

伊利亚·瓦洛夫(Ilia Valov)表示:“忆阻元件被视为能够学习、受大脑启发、以大脑为模型的计算机组件的理想之选。”

商业化的挑战

尽管已经取得了相当大的进展并付出了诸多努力,但这些元件的商业化进程仍然比预期缓慢。这尤其是因为生产过程中的故障率往往较高,且产品使用寿命较短。此外,它们对热量产生或机械影响敏感,这可能导致运行过程中频繁出现故障。“因此,基础研究对于更好地控制纳米级过程至关重要,”多年来一直致力于忆阻器领域研究的瓦洛夫说道。“我们需要新的材料和开关机制来降低系统的复杂性,并增加功能的范围。”

正是在这方面,这位化学家兼材料科学家与德国和中国同事一起取得了重要成果:“我们发现了一种从根本上全新的电化学忆阻机制,它在化学和电学方面更加稳定,”瓦洛夫解释道。这一研究成果现已发表在《自然-通讯》杂志上。

忆阻器的新机制

瓦洛夫(Valov)解释说:“到目前为止,已经确定了两种所谓的双极忆阻器的工作机制:ECM和VCM。”ECM代表“电化学金属化”,VCM代表“价态变化机制”。

集两者之精华

每种忆阻器都各有其优缺点。“因此,我们考虑设计一种将这两种忆阻器的优点结合起来的忆阻器,”伊利亚·瓦洛夫(Ilia Valov)解释道。此前,专家们曾认为这无法实现。“我们的新型忆阻器基于完全不同的原理:它使用的是金属氧化物灯丝,而不是像电化学金属化(ECM)那样使用纯金属灯丝,”瓦洛夫解释道。该灯丝由氧离子和钽离子的运动形成,十分稳定,永远不会完全溶解。“你可以把它想象成一种始终在一定程度上存在且仅发生化学变化的灯丝,”瓦洛夫说道。

因此,这种新型的开关机制非常稳健。科学家们还将其称为灯丝导电性改性机制(FCM)。基于该机制的元件具有以下优点:在化学和电学方面更加稳定,更耐高温,电压窗口更宽,且生产所需电压更低。因此,在生产过程中烧坏的元件更少,次品率更低,使用寿命更长。

迈向更智能、更可靠的人工智能

除此之外,不同的氧化态使忆阻器能够以二进制和/或模拟模式运行。虽然二进制信号是数字信号,只能输出两种状态,但模拟信号是连续的,可以呈现任何中间值。这种模拟和数字行为的结合对神经形态芯片来说尤其有趣,因为它有助于解决“灾难性遗忘”问题:当深度神经网络接受新任务的训练时,会删除已学内容。这是因为新的优化会直接覆盖之前的优化。

大脑没有这个问题,因为它显然能够调整突触变化的程度;现在专家们也在讨论所谓的“超塑性”。他们怀疑,大脑正是通过这些不同程度的可塑性,才能在不忘记旧内容的情况下永久地学习新任务。新型欧姆忆阻器也实现了类似的功能。瓦洛夫说:“忆阻器的独特属性使得我们可以使用不同的开关模式来控制其调制,从而不会丢失已存储的信息。”

从模拟到应用

研究人员已在模拟的人工神经网络模型中实现了新型忆阻元件。在多个图像数据集中,该系统在模式识别方面达到了高精度。未来,研究团队希望为忆阻器寻找其他材料,使其性能比现有版本更加出色和稳定。“我们的研究结果将进一步推动‘内存中计算’应用电子产品的开发”,瓦洛夫对此确信无疑。

参考文献:《持续学习的电化学欧姆忆阻器》,作者:陈少川、杨震、海因里希·哈特曼、阿斯特丽德·贝斯梅恩、杨宇超和伊利亚·瓦洛夫,发表于2025年3月8日,《自然-通讯》。DOI:10.1038/s41467-025-57543-w

你可能也喜欢这些文章

科技互联网,科技,资讯,动态,洞察,量子,计算,AI,人工智能,机器人,区块链,Web3,分布式,操作系统,OS,芯片,视频,深度,论文