对于困扰人工智能训练的能量消耗问题，有一个潜在的解决方案，它听起来很简单:只需加强通过记忆阵列移动电子的“突触”。 

美国圣路易斯华盛顿大学的电气和系统工程教授Shantanu Chakrabartty和他的两名同事在《自然》杂志上发表了一篇论文，解释了他们如何利用电子的自然属性来减少训练机器学习模型所需的能量。

该项目让研究人员试图建立一个记忆学习突触阵列，其中的数字突触是动态运作的，而不是静态运作的，这样它们只在改变一个状态时需要能量，而不是维持一个状态。

为了测试他们的概念，该团队构建了具有能量屏障的 CMOS 电路，他们认为能量屏障足够强大，可以保持非易失性，并且随着阵列训练的进行，它会变得更强大（即，能够更好地保持非易失性）。 

Chakrabartty 说，结果是一个更有效的阵列，可以将 ML 训练的能量需求降低 100 倍——“这是一个悲观的预测，”Chakrabartty 告诉The Register。 

Chakrabartty说，100倍的改进只是针对小规模系统。更大规模的模型将显示出更大的改进，特别是如果内存与处理器集成在一个单一的晶圆上，Chakrabartty说，这是他和他的团队目前正在努力实现的。 

如何让你的数字突触触发

机器学习模型训练的能耗非常低。位于圣路易斯的华盛顿大学表示，在2019年，训练一个顶级人工智能会产生超过62.5万磅(283.5公吨)的二氧化碳排放，几乎是一辆汽车在其生命周期内平均排放量的5倍。其他数据显示，训练GPT-3模型所消耗的能量相当于驾驶一辆汽车往返月球所需的能量。

这篇论文认为，问题在于存储阵列中计算节点之间的桥梁，这篇论文将其比作连接神经元的突触。在动物的大脑中，学习加强突触，使它们更有效地放电，但在计算时，每个突触的行为是静态的。这在实践中意味着，每当一个电子通过一个突触时，一个“开关”就必须被翻转，它需要消耗能量来极化突触，然后必须维持能量消耗来维持极性。

Chakrabartty和他的团队开发的模型通过使用Fowler-Nordheim动态模拟记忆(FN-DAM)解决了这个问题，并创建了更有效的突触。

FN- dam的“FN”部分指的是一个公式，它允许电子穿过一个三角形的电垒，这个电垒(在这个例子中)被二氧化硅电垒隔离。

这些屏障足够强大，即使能量被移除，电子仍然无法逃脱。以一种使屏障改变状态的方式重新提供能量，而被困在突触中的电子就会在它们的旅程中隧穿而去。 

Chakrabartty说，他的团队的研究论文证明了他们的设计是可行的，但他警告说，FN-DAM在缩放方面仍然面临许多障碍，比如分辨率和测量精度。

原文链接：https://www.theregister.com/2022/05/01/quantum_tunneling_memory/

---煤油灯科技victorlamp.com翻译整理---