向智能家居设备询问天气预报，设备需要几秒钟才能做出响应。出现这种延迟的一个原因是，互联设备没有足够的内存或电力来存储和运行设备理解用户所需的庞大的机器学习模型。该模型存储在可能在数百英里之外的数据中心，在那里答案被计算并发送到设备。
为此，麻省理工学院研究人员开发了一种可直接在设备上计算的新方法，大大减少了这种延迟。该技术将运行机器学习模型的内存密集型步骤转移到中央服务器上，在那里将模型组件编码到光波上。
这些波通过光纤传输到一个相连的设备上，使大量数据能够通过网络以闪电般的速度发送。然后，接收器使用一个简单的光学设备，利用这些光波携带的模型组件快速执行计算。
与其他方法相比，这种技术可将能效提高100倍以上。它还可以提高安全性，因为用户的数据不需要转移到一个中心位置进行计算。
这种方法可以让自动驾驶汽车实时做出决定，所需能源只有目前高耗电计算机的很小一部分。它还可以让用户与他们的智能家居设备进行无延迟的对话，通过蜂窝网络进行实时视频处理，甚至在距离地球数百万英里的航天器上实现高速图像分类。
“每次你想运行神经网络时，你都必须运行程序，而你运行程序的速度取决于你从内存中输入程序的速度。我们的管道是巨大的，相当于每毫秒左右通过互联网发送一部完整长度的电影。这就是数据进入我们系统的速度。资深作者Dirk Englund说，他是电气工程和计算机科学系（EECS）的副教授，也是麻省理工学院电子研究实验室的成员。
论文的主要作者和EECS大学的研究生Alexander Sludds加入了EnglundEECS大学的研究生Saumil Bandyopadhyay、研究科学家Ryan Hamerly以及来自麻省理工学院、麻省理工学院林肯实验室和诺基亚公司的其他人。这项研究发表在今天的《科学》杂志上。
减轻负担
神经网络是机器学习模型，使用多层连接的节点或神经元来识别数据集中的模式并执行任务，如分类图像或识别语音。但这些模型可以包含数十亿个权重参数，这些权重参数是在处理输入数据时的重要数值，必须存储在存储器中。同时，数据转换过程涉及数十亿次代数计算，需要大量的能量来执行。
Sludds说，从内存中获取数据（在这种情况下是神经网络的权重）并将其移动到计算机中进行实际计算，这些过程有一部分是速度和能效的最大限制因素之一。
“所以我们的想法是，为什么我们不把所有的繁重工作从边缘设备上移开，例如从内存中提取数十亿权重的过程，把它放在一个我们有充足的电源和内存的地方，这样我们就有能力快速提取这些权重？”他说。
他们开发的神经网络架构Netcast涉及将权重存储在中央服务器中，该服务器连接到一种称为智能收发器的新型硬件。这种智能收发器是一种使用硅光子学技术的拇指大小的芯片，可以接收和传输数据，可每秒从内存中获取数万亿的权重信息。?
该收发器芯片接收电信号形式的权重，并将其加载到光波上。由于数据被编码为比特（1和0），收发机通过切换激光器对其进行转换；激光器的开启时间为1，关闭时间为0。它将这些光波组合起来，然后通过光纤网络定期传输，因此客户端设备无需查询服务器即可接收它们。
Bandyopadhyy解释道：“光学之所以伟大，是因为有很多方法可以在光学器件中传输数据。例如，你可以将数据放在不同颜色的光上，这使得数据吞吐量和带宽比电子器件要高得多。”
万亿每秒
一旦光波到达客户端设备，Mach-Zehnder宽带调制器的简单光学组件就使用它们来执行超快的模拟计算。这涉及将来自设备的输入数据（例如传感器信息）编码到权重上。然后，它将每个波长发送到接收器，接收器检测光并测量计算结果。
研究人员设计了一种使用这种调制器进行每秒数万亿次乘法的方法，这大大提高了设备上的计算速度，同时只使用少量的功率。
Sludds说：“你需要在快速、能效之间权衡。我们已经建立了一个系统，可以在大约1毫瓦的功率下运行，但每秒仍能进行数万亿次乘法运算。就速度和能效而言，这都是一个数量级的增长。”。
他们测试了这一架构，通过一根86公里长的光纤将实验室连接到MIT林肯实验室。Netcast使机器学习具有高精度，图像分类为98.7%，数字识别为98.8%，速度很快。
接下来，研究人员希望在智能收发器芯片上进行迭代，以获得更好的性能。他们还希望将目前只有鞋盒大小的接收器小型化，缩小到单个芯片大小的尺寸，以便能够安装到像手机这样的智能设备上。
研究员Euan Allen表示：“使用光子学和光作为计算平台是一个非常令人兴奋的研究领域，对我们的信息技术领域的速度和效率有着潜在的巨大影响。Sludds等人的工作是此类设备在现实世界中实现的令人兴奋的一步，引入了一种新的实用边缘计算方案，同时也探索了在极低（单光子）光水平下计算的一些基本限制。”
原文链接：
https://news.mit.edu/2022/optics-deep-learning-computations-1020
