无晶体管内存计算架构支持AI应用的三个关键任务：搜索、存储和神经网络。（Credit: Nano Letters 2022）

AI对传统计算架构提出了重大挑战。在标准模型中，内存存储和计算发生在机器的不同部分，数据必须从存储区域移动到CPU或GPU进行处理。这种设计存在的问题是移动需要时间，太多时间了。您可以拥有市场上最强大的处理单元，但它的性能会受到限制，因为它会闲置以等待内存的数据，这个问题被称为“内存墙”或“瓶颈”

当计算快于内存传输时，延迟是不可避免的。当处理对机器学习和AI应用程序至关重要的大量数据时，这些延迟成为严重的问题。

随着AI软件在复杂性方面的不断发展，以传感器为主的物联网的兴起产生了越来越大的数据集，研究人员已经专注于硬件重新设计，以实现速度、敏捷性和能源使用方面的必要改进。

来自宾夕法尼亚大学（University of Pennsylvania）工程和应用科学学院的一组研究人员与来自桑迪亚国家实验室（Sandia National Laboratories）和布鲁克海文国家实验室（Brookhaven National Laboratory）的科学家合作，推出了一种AI的理想计算架构。

在电气和系统工程系(ESE)助理教授Deep Jariwala、ESE副教授Troy Olsson和Jarawala设备研究和工程实验室博士生Liu的共同领导下，该研究小组依赖于一种称为内存内计算(compute-in-memory，CIM)的方法。

在CIM体系结构中，处理和存储发生在同一个地方，消除了传输时间，并使能量消耗最小化。该团队的新CIM设计是最近发表在《纳米快报》上的一项研究主题，它以完全无晶体管而闻名。这种设计独特地适应了大数据应用改变计算本质的方式。

“即使在内存计算架构中使用，晶体管也会影响数据的访问时间，”Jariwala说。“它们需要芯片整体电路的大量布线，因此使用的时间、空间和能量超过了我们对AI应用的要求。我们的无晶体管设计的美妙之处在于，它简单、小巧、快速，并且只需要很少的能量。”

进步不仅仅是在电路级设计上。这种新的计算架构建立在该团队早期在材料科学领域的工作基础上，专注于一种称为钪合金氮化铝(AlScN)的半导体。AlScN允许铁电切换，其物理过程比替代的非易失性存储器元件更快且更节能。

“这种材料的一个关键属性是，它可以在足够低的温度下沉积，以便与硅代工厂兼容，”奥尔森说。“大多数铁电材料需要更高的温度。AlScN的特殊性意味着我们演示的存储设备可布局在垂直异质集成堆栈中的硅层之上。想想一个能容纳100辆车的多层停车场和分布在

一个停车场的100个独立停车位之间的区别。就空间而言，哪种效率更高？像我们这样高度微型化的芯片中的信息和设备也是如此。这种效率对于需要资源限制的应用程序(如移动或可穿戴设备)来说非常重要，对于数据中心等能源密集型应用程序来说也是如此。”

2021年，该团队确立了AlScN作为内存计算发电站的可行性。其小型化、低成本、资源效率、易于制造和商业可行性的能力在研究和工业领域显示了重大进步。

在最近首次推出无晶体管设计的研究中，该团队观察到，他们的CIM铁电二极管可能能够比传统计算架构快100倍。

该领域的其他研究已经成功地使用内存计算架构来提高AI应用的性能。然而，这些解决方案受到限制，无法逾越性能和灵活性之间的矛盾性权衡。使用忆阻器交叉阵列（memristor crossbar array）的计算架构也展示了令人钦佩的速度，这种设计模仿了人脑的结构，以支持神经网络操作的高水平性能。

然而，使用多层算法来解释数据和识别模式的神经网络操作，只是功能性AI所需的几个关键数据任务类别之一。该设计的适应性不足以在任何其他AI数据操作上提供足够的性能。

Penn团队的ferrodiode设计提供了其他内存计算架构所不具备的突破性灵活性。它实现了卓越的准确性，在构成有效AI应用程序基础的三种基本数据操作中的表现同样出色。它支持片上存储，即容纳深度学习所需的海量数据的能力——并行搜索，这是一种允许精确数据

过滤和分析的功能，以及矩阵乘法加速，这是神经网络计算的核心过程。

“我们可以说，”Jariwala说，“你有一个AI应用程序，它需要一个大容量的存储空间，以及进行模式识别和搜索的能力。想想自动驾驶汽车或自主机器人，它们需要对动态、不可预测的环境做出快速、准确的反应。使用传统的架构，你需要为每个功能分配不同的芯片面积，你会很快耗尽可用性和空间。我们的铁电二极管设计允许您通过简单地改变施加电压的方式来编程，在一个地方完成所有这些。”

可以适应多种数据操作的CIM芯片的回报是显而易见的：当团队通过他们的芯片运行机器学习任务的模拟时，它的执行精度与运行在传统CPU上的基于AI的软件相当。

“这项研究非常重要，因为它证明了我们可以依靠内存技术，以真正挑战传统计算技术的方式，开发集成多种AI数据应用的芯片。”该研究的第一作者刘说。

该团队的设计方法考虑到AI既不是硬件也不是软件，而是两者之间的必要合作。

“重要的是要认识到，目前完成的所有AI计算都是在几十年前设计的硅硬件架构上由软件实现的，”Jariwala说。“这就是为什么AI作为一个领域一直由计算机和软件工程师主导。从根本上为AI重新设计硬件将是半导体和微电子领域的下一个重大变革。我们现在的发展方向是软硬件协同设计。”

“我们设计的硬件可以让软件更好地工作，”刘补充说，“有了这种新的架构，我们可以确保技术不仅快速，而且准确。”

原文链接：https://techxplore.com/news/2022-10-chip-ideal-ai.html

---煤油灯科技victorlamp.com翻译整理---