用传统电路重现大脑神经元和突触的工作方式

煤油灯科技2023-01-16 12:45

对速度的需求是驱动人工智能(AI)硬件的动力——更大的AI语言模型、更快的芯片和更大的带宽,以便AI机器进行准确的预测。但一些硬件初创公司正在采取AI计算的倒退方法,以对抗越多越好的方法。包括Innatera、Rain Neuromorphics和其他公司在内的一些公司正在创造带有模拟电路的硅大脑,以模仿大脑功能。


用硅模仿大脑

大脑天生是模拟的,接受原始的感觉数据,这些芯片制造商正试图以传统模拟电路重现大脑神经元和突触的工作方式。

Tirias Research的分析师Kevin Krewell说,“模拟芯片可以是非常好的低功耗传感设备,特别是对于一些声音和视觉应用。就大脑如何使用分布式记忆细胞保存神经元权重或其他模拟权重上,模拟是更接近的表示方式。”

在边缘或数据中心,AI和机器学习主要依赖于数字芯片。但在智能手机或汽车等边缘中,模拟芯片也有一席之地,这些应用需要即时智能,但无需向用于提供AI服务的云发送数据。

位于荷兰Rijkswijk的Innatera Nanosystems BV的目标并非取代完整的AI管道,其第三代AI芯片有256个神经元和65,000个突触,驱动功率不到1毫瓦。与人脑相比,这听起来不算多,人脑有860亿个神经元,工作功率约为20瓦。这就有可能在顶部创建一个完全连接的循环网络,芯片可以在硬币电池上运行。

Innatera的客户正在使用该芯片运行雷达和音频应用,其性能可与同类产品中的其他芯片相媲美。该芯片的目标是在设备上整合低水平的学习和推理,这被认为是对AI的一大挑战。

Innatera首席执行官Sumeet Kumar表示,“我们认识到,当数据从传感器转移到云中时,它实际上在多个阶段被不同类型的AI转换。我们经常看到的是客户在云中进行低级别的传感器数据处理,这完全没有必要。”

Innatera芯片接收来自传感器的信息,这些信息被转换为尖峰信号,输入的内容被编码到这些尖峰信号发生的确切时间。

“这正是你大脑中发生的事情。当你听到一些东西时,你的耳朵里有…微小的毛发/细胞,它实际上检测每个频带以及该频带内的能量。这些毛发/细胞会振动,产生尖峰信号,然后进入你的其余听觉皮层。本质上,我们遵循的是完全相同的原则,”Kumar说。

根据这一原理,大脑神经元内部存在钙离子和低钠离子,这些离子的浓度会随着时间的推移而变化。Innatera的芯片利用电流复制了同样的行为,测量有多少电流流入和流出神经元,这就是Innatera模仿大脑的方式。

取代当前边缘上的AI芯片

这个想法不是要破坏当前的AI流入云,而是要取代当前边缘上的AI芯片,这些芯片无法在设备上做出决定。

该芯片还减少了将模拟信号转换成数字信号的过程。“你无法真正长距离地翻译模拟信号,因为那样的话,信号质量会下降。我们通过将模拟信号转换成尖峰信号来避免这种情况,”Kumar说。

今天AI的基础是基于使用数字芯片和技术模拟大脑神经元的行为,这非常成功。基于摩尔定律的进步,那些数字电路和网络变得更大更快。

但是模拟也有它的问题。例如,由于漂移等校准问题,很难在模拟芯片之间获得一致性。由于模拟电路和存储单元不像数字电路那样可扩展,模拟信号最终必须转换成数字信号,才能与系统的其他部分进行交互。

诚然,神经形态芯片的概念并不新鲜。英特尔和IBM等公司一直在开发大脑灵感芯片,大学也在开发自己的模拟电路版本。英特尔和其他公司已经提高了对神经形态芯片和传统AI之间差异的认识,但随着AI计算要求和能效以不可持续的速度增长,初创公司感到有必要推出他们的产品。

另一家AI芯片公司Rain Neuromorphics表示,其模仿大脑的芯片将用于阿贡国家实验室的粒子加速器。

在AI硬件峰会上的一次演示中,该公司没有提供关于该芯片将如何使用的更多细节,但该公司首席执行官Gordon Wilson表示,该芯片将像硅大脑一样工作,帮助研究实验室研究粒子碰撞并得出结论。

具备器件级智能的硅大脑

硅大脑将提供器件级智能(on-device capabilitie),以防止传感器漂移,这种漂移可能导致错误的数据被输入到AI系统。传感器漂移的概念类似于AI中的模型漂移,其中输入学习模型的坏数据会使AI系统偏离轨道。

与云中的AI相比,器件级智能更加节能。“你需要即时学习能力。这需要能够针对传感器漂移进行训练和微调,以保持该系统的性能,”Wilson说。

Rain芯片的第一次迭代“从本质上看,与其他模拟或混合芯片没有根本区别”。但是它有学习的能力,这将释放更多的价值。

Wilson指出,可能不同类型的记忆,如忆阻器电路,提供了学习的能力。自20世纪60年代以来,忆阻器一直在开发中,并被惠普(后来成为HPE)用于名为Machine的巨型计算机,但这项技术仍然是一个新事物。

“忆阻器是一个可以调节电阻的记忆电阻器,可用作人工突触,”Wilson说。

在大脑中,并不要求突触是完美的,对rain忆阻器的要求会有所不同。


原文链接:https://www.hpcwire.com/2022/09/17/analog-chips-find-a-new-lease-of-life-in-artificial-intelligence/

 

---煤油灯科技victorlamp.com翻译整理---

你可能也喜欢这些文章

科技互联网,科技,资讯,动态,洞察,量子,计算,AI,人工智能,机器人,区块链,Web3,分布式,操作系统,OS,芯片,视频,深度,论文