AI芯片市场广阔，目前两个主要领域是边缘(如为你的手机和智能手表供电的芯片)和数据中心(用于深度学习推理和训练)。然而，不管是什么应用，所有的AI芯片都可以被定义为集成电路(IC)，这些集成电路被设计为运行机器学习工作负载，可能由FPGAs、GPU或ASIC AI加速器组成。它们的工作方式非常类似人类大脑在复杂而快速变化的世界中运作和处理决策和任务的方式。

传统芯片和AI芯片之间的真正区别在处理多少和什么类型的数据，以及它可以同时进行多少计算。同时，新的软件AI算法突破正在推动新的AI芯片架构，以实现高效的深度学习计算。

AI芯片的独特要求

AI工作负载需要的计算能力比传统工作负载高出几个数量级。AI需要点积函数等乘加函数的大规模并行性。传统的GPU能够以类似的方式对图形进行并行处理，因此它们被重新用于AI应用。

我们在过去十年中看到的优化是巨大的。AI要求芯片架构具有正确的处理器、存储器阵列、强大的安全性以及传感器之间可靠的实时数据连接。最终，最好的AI芯片架构是将最多的计算元素和内存浓缩到单个芯片中的架构。今天，我们也正在向AI多芯片系统发展，因为我们已经达到了单芯片的极限。

芯片设计者在设计激活值的最大值时，需要考虑称为权重和激活的参数。未来，为了优化AI芯片架构以提高效率，能够兼顾AI的软件和硬件设计是极其重要的。

AI芯片架构的优势

毫无疑问，我们正处于AI时期。现在，我们正在克服设计能够处理AI工作负载的芯片的障碍，有许多创新公司是该领域的专家，他们设计更好的AI芯片来做十年前似乎遥不可及的事情。

随着你向下移动工艺节点，AI芯片设计可以使时钟速度降低15%至20%，密度增加15%至30%，这使设计人员可以在一个芯片上安装更多的计算元件。它们还增加了内存组件，使AI技术可以在几分钟内完成训练，而不是几小时，这转化为大量节省。当公司从在线数据中心租用空间来设计AI芯片时尤其如此，但即使是那些使用内部资源的公司也可以通过更有效地进行试错来受益。

我们现在正处于AI本身来设计新的AI芯片架构和计算新的路径优化阶段，以基于来自许多不同行业和应用的大数据来优化功率、性能和面积(PPA)。

AI芯片架构应用和未来

AI就在我们周围。从最小的物联网芯片到最大的服务器、数据中心和图形加速器，几乎每种类型的芯片都采用了AI处理器。随着AI芯片的生产成本越来越低，我们将开始在物联网等地方看到AI芯片架构来优化电源和其他类型的优化，甚至不知道这是可能的。

对于AI芯片架构来说，这是一个激动人心的时刻。Synopsys预测，由于性能需求，我们将继续看到下一代流程节点被积极采用。此外，围绕不同类型的内存以及不同类型的处理器技术和软件组件，已经有了很多探索。

在内存方面，芯片设计者开始将内存放在硬件的实际计算元件旁边甚至内部，以使处理时间更快。此外，软件正在驱动硬件，这意味着新的神经网络等软件AI模型需要新的AI芯片架构。成熟的实时接口提供了高速和低延迟所需的数据连接，同时安全性保护了整个系统及其数据。

最后，我们将看到光子学和多芯片系统在新AI芯片架构中发挥更大作用，以克服AI芯片的一些瓶颈。光子学提供了一种更加节能的计算方式，多芯片系统(涉及芯片的异构集成，通常内存直接堆叠在计算板上)也可以提高性能，因为不同处理元件之间以及处理单元和内存单元之间的连接速度可能会提高。

可以肯定的是，AI芯片架构的创新将继续大量出现。

原文链接：

https://blogs.synopsys.com/from-silicon-to-software/2023/03/23/ai-chip-architecture/