AI应用改变了计算机设计的前景，推动了对能够有效处理大量数据的硬件架构的研究。采用先进封装技术的三维异构集成可用于提高传感器、存储器和处理器之间的数据带宽。然而，这种系统受到缺乏硬件可重构性和使用传统冯诺依曼（von Neumann）架构的限制。麻省理工学院的工程师设计了一种像乐高积木一样，可堆叠、可重构的AI芯片，该设计包括传感和处理元件的交替层，以及允许芯片层间进行光学通信的发光二极管（LED）。
传统上，模块化芯片设计采用布线在层间传递信号，这种复杂的连接很难甚至不可能切断和重新布线。因此，这种可堆叠设计是不可重新配置的。
麻省理工学院另辟蹊径，使用光电器件阵列进行芯片间通信，而不是物理导线，并使用基于忆阻器交叉阵列的神经形态内核进行高度并行的数据处理。因此，该可堆叠、可重构芯片可以重新配置，层可以交换或堆叠，例如添加新的传感器或更新的处理器。
通过这种方法，研究人员创建了一个具有可堆叠和可替换芯片的系统，可以直接对来自基于光的图像源的信息进行分类。该系统还可通过插入预编程的神经形态去噪层来修改，该去噪层提高了在噪声环境中的分类性能。该可重构三维异质集成技术可用于垂直堆叠各种功能层，并为边缘计算应用提供高能效的传感器计算系统。
图1. 面向边缘计算的传感器计算系统集成技术。
a、物理导线（黄色）连接不同的设备层，如单一材料系统（例如硅）上的传感器、处理器和内存。3D结构由垂直层间通孔物理配置。由于硬连线连接，功能和芯片可堆叠性会受到限制。
b，用于传感器计算系统的具有芯片间通信的可堆叠异质集成芯片的示意图。芯片之间的光通信为硬件方面的可重新配置性（例如传感器层和处理器层）提供了很大的自由度。每一层都是物理堆叠的，光信息通过包括led和PD在内的光电器件进行传输。根据应用，可以从功能模块库中选择任何功能模块，并将它们组装到异质集成芯片堆栈中。芯片堆叠的第一层被指定用于感测感官输入，可以在3D异质集成芯片堆叠上被并行处理。可堆叠和可配置的异质集成芯片包含预编程的神经形态处理器内核，可以实现边缘计算的多样化AI，如字母识别和物体检测。
麻省理工学院博士后Jihoon Kang说：“你可以添加任意多的计算层和传感器，例如光、压力，甚至气味。我们称之为类似乐高的可重构AI芯片，因为它根据层的组合具有无限的可扩展性。”
研究人员渴望将该设计应用于边缘计算设备——自给自足的传感器和其他电子设备，它们独立于任何中央或分布式资源，如超级计算机或基于云的计算。
“随着我们进入基于传感器网络的物联网时代，对多功能边缘计算设备的需求将大幅增长，”麻省理工学院机械工程副教授Jeehwan Kim表示。“我们提出的硬件架构将在未来为边缘计算提供高度的多功能性。”
该团队的成果发表在今天的《自然电子》杂志上。除了Kim和Kang，麻省理工学院的作者还包括第一作者Chanyeol Choi、Hyunseok Kim和Min-Kyu Song，特约作者Hanwool Yeon、Celesta Chang、Jun Min Suh、Jiho Shin、Kuangye Lu、Bo-In Park、Yeongin Kim、Han、Doyoon Lee、Subeen Pang、Sang-Hoon Bae、Hun S. Kum和，以及来自哈佛大学、清华大学、浙江大学和其他地方的合作者。
光通信系统
该团队的设计目前被配置为执行基本的图像识别任务。它通过分层的图像传感器、LEDs和由人工突触制成的处理器来实现这一点，人工突触是该团队以前开发的记忆电阻器阵列或“忆阻器（memristor）”，它们共同充当物理神经网络或“芯片上的大脑”。每个阵列都可以被训练成直接在芯片上处理和分类信号，而不需要外部软件或互联网连接。
在他们的新芯片设计中，研究人员将图像传感器与人工突触阵列配对，来训练每个传感器识别特定的字母——在这种情况下，是M、I和t。虽然传统的方法是通过物理导线将传感器的信号中继到处理器，但该团队在每个传感器和人工突触阵列之间制造了一个光学系统，以实现层间通信，而不需要物理连接。
图2. 可堆叠的异质集成神经形态芯片的组件。
a、感光层（眼层）的光学照片和来自底部的光输入。插图显示了三种不同的字母图案，即“M”、“I”和“T”，由图案化光掩模和具有共焦设置的激光二极管生成。字母图像被输入到眼睛层。光输入的强度由PD通过透明氧化硅膜测量。
b、眼睛层和处理器层的光学照片（左）。从眼睛层输入的光可以传递到下一层。每层都有LED/PD堆栈，以便它们可以接收和发送光信息。LED和PD器件的I-V特性由PD（中间）的灯“关”和“开”表示（约0.15mW mm-2）。在芯片间通信中，PD对LED光的响应显示为反向偏置为0.1V时LED光强度的函数（右图）。
c、异质集成芯片示意图。对于光电器件叠层，我们制造了LED/PD叠层阵列，并使用深反应离子蚀刻将它们与背面孔对准。对于神经形态计算核心，我们制作了32×32忆阻器交叉阵列，如原理图和SEM图像所示。
“其他芯片通过金属进行物理布线，这使得它们很难重新布线和重新设计，所以如果你想增加任何新功能，你需要制作一个新的芯片，”麻省理工学院博士后Hyunseok Kim说。“我们用光通信系统取代了物理有线连接，这让我们可以按照自己的方式自由堆叠和添加芯片。”
该团队的光通信系统由成对的光电探测器和LED组成，每个都有微小的像素图案。光电探测器构成了用于接收数据的图像传感器，以及用于将数据传输到下一层的LEDs。当信号（例如一个字母的图像）到达图像传感器时，图像的光模式对LED像素的某种配置进行编码，这反过来又刺激另一层光电探测器，以及人工突触阵列，该阵列根据入射LED光的模式和强度对信号进行分类。
堆叠更多组件
该团队制造了一个单芯片，其计算核心约为4平方毫米，或一片纸屑的大小。该芯片堆叠有三个图像识别“模块”，每个模块都包括图像传感器、光通信层和人工突触阵列，用于对三个字母M、I或t中的一个进行分类。然后，他们将随机字母的像素化图像照射到芯片上，并测量每个神经网络阵列产生的电流作为响应。（电流越大，图像确实是特定阵列被训练识别的字母的机会就越大。）
图3. 可替换和可堆叠的异质集成神经形态芯片及其健壮的内核操作。通过替换内核层，对不同的图案化图像执行内核操作。该图显示了每个内核操作的当前总和，误差线表示当前总和的最大值和最小值。框图显示了多层神经形态芯片堆栈。输入字母图像在三个不同的内核层上共享，并由预编程的忆阻器交叉阵列处理。当前总和是对下面的输入字母图像（底部一行）进行内核操作的结果。通过堆叠三个不同的内核层，内核操作将并行执行。误差线表示当前总和的最大值和最小值。
研究小组发现，芯片能够正确地对每个字母的清晰图像进行分类，但它不太能够区分模糊图像，例如I和t之间的图像。然而，研究人员能够迅速更换芯片的处理层，以获得更好的“去噪”处理器，并发现芯片能够准确地识别图像。
图4. 可堆叠的神经形态芯片的应用：在嘈杂的环境中插入去噪功能层。
a、通过将高斯噪声（δ = 0.5）添加到来自眼睛层的图像中，生成被破坏的字母图像。
b，对损坏的“T”字母图像执行的字母识别任务，如框图中所述。我们对损坏的“T”字母图像执行了三种不同的内核操作。测量每个内核的当前总和。箭头表示当前总和的差异。由于有噪声的字母“T”，来自“I”核和“T”核的当前和的输出显示出边际差异，这暗示了字母识别的困难。
c、去噪功能层的神经网络架构——去噪自动编码器（25×5×25神经元）。
d，通过插入包括忆阻器交叉阵列的去噪层来对字母图像去噪，如框图中所述。
e，在去噪的“T”字母图像上执行的字母识别任务，如b中的框图所述。经过去噪后，来自“T”核的当前和比来自“I”核的当前和值高得多。这意味着字母识别任务在去噪后更成功。
麻省理工学院博士后Min-Kyu Song指出：“我们展示了可堆叠性、可替换性，以及在芯片中插入新功能的能力。”
研究人员计划在芯片上增加更多的传感和处理能力，他们设想这种应用是无限的。
“我们可以在手机摄像头上添加层，使其能够识别更复杂的图像，或者将这些图像制作成可以嵌入可穿戴电子皮肤的医疗监测器，”Choi说，他曾与Kim一起开发了一种用于监测生命体征的“智能”皮肤。他的另一个想法是内置于电子产品中的模块化芯片，消费者可以选择用最新的传感器和处理器“砖块”来构建。
“我们可以制造一个通用的芯片平台，每一层都可以像电子游戏一样单独出售，”Jeehwan Kim说。“我们可以制造不同类型的神经网络，如图像或语音识别，让客户选择他们想要的，并添加到现有的芯片上，如乐高玩具。”
参考链接：
https://news.mit.edu/2022/stackable-artificial-intelligence-chip-0613
