人脑由大约860亿个连接在神经网络中的神经元组成，能够进行非凡的计算，而且只消耗十几瓦。这是怎么做到的？IEEE Spectrum最近采访了美国国家标准与技术研究所（NIST）的物理学家Jeffrey Shainline，他的工作可能对这个问题有所启发。Shainline正在寻求一种可以为高级AI形式提供动力的计算方法，即所谓的脉冲神经网络（spiking neural networks），与现在广泛部署的人工神经网络相比，它更接近于模仿大脑的工作方式。
今天，主流范式使用运行在数字计算机上的软件来创建具有多层神经元的人工神经网络。这些“深度”人工神经网络已被证明非常成功，但它们需要巨大的计算资源和能量来运行。这些能源需求正在快速增长，特别是，用于训练深度神经网络的计算变得不可持续。
长期以来，研究人员一直对创造人工神经网络的前景感兴趣，这种人工神经网络可以更好地反映生物神经元网络中发生的事情，在生物神经元网络中，当一个神经元接受来自多个其他神经元的信号时，它可能会达到激活的阈值而导致“触发”，这意味着它会产生一个输出信号尖峰，发送到其他神经元，也许会诱导其中一些神经元也触发。
一些公司已经生产了实现电子脉冲神经网络的芯片。Shainline的研究重点是在这种网络中使用超导光电元件。他的工作最近从研究理论可能性发展到进行硬件实验。他告诉Spectrum他实验室的这些最新进展。
我多年来一直听说IBM和其他地方的神经形态处理芯片，但我没有感觉到它们对现实世界具有吸引力。我错了吗？
Shainline：好问题，脉冲神经网络——它们有什么用？2014年就开始开发的IBM真北芯片（True North）引起了巨大的轰动，因为它是新的、不同的和令人兴奋的。最近，英特尔一直在用其Loihi芯片做伟大的事情。英特尔现在有了第二代产品。但是这些芯片能否解决实际问题仍然是个大问题。
我们知道生物大脑可以做数字计算机无法比拟的事情。然而，这些脉冲神经形态芯片不会立即让我们大吃一惊。为什么？我认为这不是一个容易回答的问题。
我要指出的是，这些芯片没有一个具有100亿个神经元，这大约只是一个人大脑中神经元的数量。即使是果蝇的大脑也有大约15万个神经元。英特尔最新的Loihi芯片甚至没有这个。
为了推广这种芯片，英特尔做了一些聪明的事情：他们让学者和创业公司廉价使用他们的芯片——在很多情况下是免费的。他们众包创意，希望有人会找到一个杀手级应用。
第一个杀手级应用会是什么？
Shainline：也许是一个聪明的演讲者，他需要一直等着你说一些关键词或短语，这通常需要很大的能量。但研究表明，在简单芯片上运行一个非常简单的脉冲神经算法可以做到这一点，而几乎不使用任何功率。
告诉我你和你的NIST同事正在研究的光电器件，以及它们可能如何改善脉冲神经网络？
Shainline：首先，你需要明白，光是一个脉冲神经系统中神经元之间交流的最好方式。因为没有什么比光跑得更快。因此，使用光进行交流将使你拥有最大的脉冲神经网络。
但是仅仅快速发送信号是不够的。你还需要以节能的方式来做这件事。因此，一旦你选择以光的形式发送信号，你所能达到的最佳能量效率就是从一个神经元向它的每个突触连接发送一个光子。你不能减少光线的数量。
我们正在研究的超导探测器是探测单光子光的最好探测器——就它们消耗的能量和运行速度而言是最好的。不过，你也可以建立一个脉冲神经网络，使用室温半导体来发送和接收光信号。目前，还不清楚哪种策略是最好的。但是因为我有偏见，让我分享一些追求超导方法的理由。
不可否认，使用超导元件会带来很大的开销——你必须在低温环境中建造一切，这样你的设备才能保持足够低的温度来超导。但是一旦你做到了这一点，你就可以很容易地添加另一个关键元素——一种叫做约瑟夫森结（Josephson junctions）的东西。
约瑟夫森结是超导计算硬件的关键组成部分，无论它们是用于量子计算机中的超导量子位，超导数字逻辑门，还是超导神经元。
一旦你决定使用光进行通信，并使用超导单光子探测器来感应光，你就必须在低温环境下建造你的计算机。因此，没有进一步的开销，你就能够在现有设施中拥有约瑟夫森结。
这带来了一个不明显的好处。事实证明，3D集成约瑟夫森结比3D集成MOSFET更容易。这是因为对于半导体来说，你需要在硅片的下平面上制造MOSFETs，然后在上面布局所有引线层，并且基本上不可能用标准处理技术在其上再放置另一层MOSFETs。
相比之下，在多个平面上制作约瑟夫森结并不难。两个不同的研究小组证明了这一点。我们一直在谈论的单光子探测器也是如此。
当你考虑需要什么来让这些网络扩展到类似大脑的复杂事物时，这是一个关键的好处。与半导体相比，你可以在一个晶片上安装更多的神经元和突触，因为你可以在三维空间中堆叠。你可能有10层，这是一个很大的优势。
这种计算方法的理论含义令人印象深刻。但是你和你的同事们实际上建造了什么样的硬件呢？
Shainline：我们最近最令人兴奋的成果之一是超导单光子探测器与约瑟夫森结的集成演示。这使我们能够接收单个光子，并利用它来切换约瑟夫森结，产生电信号，然后整合来自许多光子脉冲的信号。
我们最近在实验室展示了这项技术。我们还在一个芯片上制作了能在低温下工作的光源。在芯片上传输光信号所需的波导上，我们也花了很多时间。
我提到了3D集成——堆叠——这种计算技术是可能的。但是，如果你要让每个神经元与几千个其他神经元进行通信，你还需要一些方法来使光信号从一层的波导到另一层的波导无损耗地转换。我们已经证明了这些波导有多达三层的堆叠平面，并且相信我们可以扩展到10层左右。
当您说“集成”时，您是指您已经将这些组件连接在一起，还是指您已经将所有组件都集成在一个芯片上？
Shainline：我们确实在一个芯片上结合了超导单光子探测器和约瑟夫森结。这个芯片被安装在一个小小的印刷电路板上，我们把它放在一个低温恒温器中，以保持足够的低温来保持超导性。我们使用光纤从室温到低温进行通信。
为什么你如此热衷于追求这种方法，为什么其他人不这么做？
Shainline：关于为什么神经形态计算的这种方法可以成为一个相当大的游戏改变者，有一些非常强有力的理论论据。但是这需要跨学科的思考和合作，而现在，我们是唯一一个专门从事这项工作的团队。如果有更多的人加入进来，我会很高兴。
作为一名研究人员，我的目标不是成为第一个做这些事情的人。如果不同背景的研究人员为这项技术的发展做出贡献，我会非常高兴！
原文链接：
