
一项使用光而非金属线路实现芯片连接的突破性系统,或可消除计算领域的一大瓶颈,极大地促进人工智能的发展。
该项目由国家科学基金会(National Science Foundation)提供的200万美元资助,并得到了业内领袖的支持,旨在让人工智能模型变得更快、更高效。通过动态重新配置光路径,这一创新有望彻底改变高性能计算,并重新定义数据传输。
一种全新的芯片连接系统有望帮助我们克服“内存墙”这一大幅降低计算速度并限制人工智能模型发展的主要瓶颈。该技术不依赖传统电线,而是通过可重新配置的光路传输数据,从而实现更快、更高效的通信。
该项目由密歇根大学牵头,获得了美国国家科学基金会“半导体未来”项目提供的200万美元资助。项目汇集了来自华盛顿大学、宾夕法尼亚大学和劳伦斯伯克利国家实验室的研究人员,同时得到了谷歌、惠普企业公司、微软和英伟达等行业领袖的指导。
数据传输瓶颈减缓了人工智能的发展
虽然计算能力有了显著提升——如今的处理速度比20年前快了60,000倍——但内存与处理器之间的数据传输却远远落后,仅提升了30倍。这一差距不断扩大,造成了瓶颈,限制了人工智能(AI)模型的规模,而自1998年以来,AI模型的规模一直以惊人的速度扩大,每两年扩大400倍。要释放AI的全部潜力,提高数据传输速度至关重要。
“我们提出的技术可以让高性能计算跟上快速增长的人工智能(AI)模型所需处理的海量数据,”密歇根大学电气与计算机工程教授、该项目首席研究员梁迪(Di Liang)表示。“我们认为,通过芯片之间的光连接,每秒的数据传输量可以达到数十太比特,这比最先进的电连接快100多倍。”

硬连接金属连接的局限性
如今,数据通过焊接在类似主板的中介层(一个物理单元)上的金属连接,在多个存储器和处理器芯片之间传输。数据可以在单个中介层内传输,也可以在相互连接的服务器(称为计算节点)的中介层之间传输。
金属连接被硬连接到中介层中,这会限制数据传输带宽和信号完整性,因为更快的电信号会以热能的形式损失能量,并可能对相邻连接造成电磁干扰。因此,将所有不同的处理器和内存芯片进行硬连接是不可行的。如今,单个超级计算机芯片可包含90多万个内核(或称为单个处理单元),并且随着AI模型规模的增长,该数字还将继续增加。
为何光学交错器是未来的发展趋势
“所有这些处理器都需要与大量内存进行通信,”华盛顿大学电气与计算机工程教授、该项目联合首席研究员莫莉(Mo Li)表示。“控制整个封装的通信非常重要。在我看来,光学连接将是未来唯一可行的解决方案。”
光比电子传播得更远,能以更少的能量损失传输更多的数据,研究人员将在其新的中介层设计中利用这些特性。光脉冲将通过中介层中的折射通道(称为光波导)在芯片之间传播。每个芯片上的接收器会将数据转换回电信号,以供计算机进行解读。

针对AI工作负载的动态流量控制
由于中介层中采用了一种特殊的相变材料,波导网络可以在制造过程中以及在计算机内部进行重新配置。当受到激光照射或暴露于电压下时,材料的折射率会发生变化,这意味着当光通过波导时,光将向不同方向弯曲。
“这有点像打开和关闭道路,”宾夕法尼亚大学材料科学与工程及电气工程与系统科学教授、联合首席研究员梁峰(音译)说,“如果一家公司基于这项技术出售芯片,他们将能够在不改变其他元件布局的情况下,重写不同批次芯片和服务器上的连接。”
研究人员将设计交通控制软件,以监控中介层在任意给定时间需要通信的部分,并进行必要的电压切换,从而实现即时的理想连接。
计算机科学与工程副教授、该项目联合研究员达斯(Reetuparna Das)表示:“更改连接允许我们根据想要运行的 AI 模型,或者是否要训练或运行模型来重新配置网络。”
产业合作与学生的实践学习
除了推动技术发展之外,该项目还将使密歇根大学的学生与业界合作伙伴建立联系,为他们提供宝贵的实践经验。
梁(Liang)说:“这些联系可以让学生们在设计快速演变的技术时,欣赏到现实世界的挑战。”“课本没有充分解决这些现代问题,因为发展的速度使得课本无法跟上。获得相关技能的最好方法是与业界合作,解决他们关心的问题。”