“闪电”系统利用一种新颖的抽象方法将光子与计算机的电子部件连接起来，创建了第一个光子计算原型，用于实时机器学习推理请求。

计算正在经历一个关键转折点。由于将更多晶体管放在付得起的微芯片上的物理限制，预测每年在电子芯片上的晶体管数量将翻一番的摩尔定律正在放缓。这种计算能力的增长正因高性能计算机的需求而减速，这些计算机可以支持日益复杂的人工智能模型。这种不便驱使工程师探索扩展计算机性能的新方法，但解决方案仍然不明确。

光子计算的潜力

光子计算是满足机器学习模型日益增长的计算需求的一种潜在解决方案。这些系统不使用晶体管和导线，而是利用光子（微观光粒子）在模拟领域执行计算操作。激光产生这些小束能量，其速度像科幻电影中以光速飞行的飞船一样快。当将光子计算核心添加到可编程加速器（如网络接口卡（NIC）及其增强型版本SmartNICs）时，所得到的硬件可以插入标准计算机以提升性能。

麻省理工学院的研究人员利用光子的潜力加速了现代计算机，并在机器学习中展示了其能力。他们的光电重构SmartNIC命名为“闪电”，可以帮助深度神经网络完成推理任务，如图像识别和聊天机器人（如ChatGPT）中的语言生成。该原型的新颖设计实现了令人印象深刻的速度，创建了第一个能够满足实时机器学习推理请求的光子计算系统。

克服光子限制

实施光子计算设备的一个主要挑战是它们是被动的，意味着它们缺乏控制数据流的内存或指令，与其电子对应物不同。以往的光子计算系统面临这个瓶颈，但“闪电”去除了这个障碍，以确保电子和光子组件之间的数据传输顺利进行。

“光子计算在加速庞大的线性计算任务（如矩阵乘法）方面显示出显著优势，但它需要电子来处理剩下的工作：内存访问、非线性计算和条件逻辑。这产生了大量数据需要在光子和电子之间交换，以完成像机器学习推理请求这样的实际计算任务，”麻省理工学院电脑科学与人工智能实验室（CSAIL）的副教授Manya Ghobadi团队中的博士后Zhizhen Zhong表示。“控制光子和电子之间的这种数据流是以往最先进的光子计算工作的致命缺陷。即使你拥有一台超快的光子计算机，你也需要足够的数据来驱动它而不停滞。否则，你只会得到一台无所作为的超级计算机。”

Ghobadi是麻省理工学院电气工程与计算机科学系（EECS）的副教授，同时也是CSAIL的成员，她和她的团队同事们是第一个识别和解决这个问题的人。为了实现这一壮举，他们结合了光子的速度和电子计算机的数据流控制能力。

连接光子和电子

在“闪电”之前，光子和电子计算方案分别独立运行，使用不同的语言。该团队的混合系统使用可重构的计数-动作抽象方法对数据通路上的所需计算操作进行跟踪，将光子与计算机的电子组件连接起来。这种编程抽象方法作为两者之间的统一语言，控制数据流的访问。由电子携带的信息被转化为光子形式的光子，以帮助完成推理任务，然后将光子转换回电子以将信息传递给计算机。

通过无缝连接光子和电子，这种新颖的计数-动作抽象使“闪电”能够实现快速的实时计算频率。以往的尝试采用停-走方式，这意味着数据会受到较慢的控制软件的阻碍，该软件对其移动做出所有决策。