
人工智能先驱Geoffrey Hinton表示,机器学习形式的人工智能将在计算机系统中引发一场革命,这是一种可以将 AI 放入“烤面包机”的新型硬件-软件结合体。
Hinton上周四在新奥尔良举行的神经信息处理系统会议NeurIPS上发表了闭幕主题演讲,他说机器学习研究界“一直没有意识到深度学习对计算机制造的影响。”
他继续说:“我认为,我们将看到一种完全不同类型的计算机,不用几年之内,但我们有充分的理由研究这种完全不同类型的计算机。”
迄今为止,所有的数字计算机都被设计成“不朽的”,其中硬件设计得很可靠,因此相同的软件可以在任何地方运行。“我们可以在不同的物理硬件上运行相同的程序,知识是不朽的。”

Hinton说,这一要求意味着数字计算机已经错过了“各种可变的、随机的、不稳定的、模拟的、不可靠的硬件特性,而这些特性可能对我们非常有用。这些东西太不可靠了,不可能让“两个不同的硬件在指令级别上以完全相同的方式运行”。
Hinton说,未来的计算机系统将采取不同的方式:它们将是“神经形态的”,它们将是“致命的”,这意味着每台计算机都将是代表神经网络的软件与硬件的紧密结合,从模拟元素而不是数字元素的意义上说,这些硬件可以包含不确定性的元素,并可以随着时间的推移而发展。
Hinton解释说:“现在,计算机科学家们非常不喜欢的另一种选择是,我们将放弃硬件和软件的分离,因为它攻击了他们的基本原则之一。”

“我们将进行我所说的致命计算,在这种计算中,系统学到的知识和硬件是不可分割的。”
他说,这些普通的计算机可以“生长”起来,摆脱昂贵的芯片制造工厂。
“如果我们这样做,我们可以使用非常低功耗的模拟计算,你可以使用记忆电阻器之类的东西来实现万亿路并行,”他说。他指的是一种基于非线性电路元件的已有几十年历史的实验性芯片。
“而且,你可以在不知道硬件不同部分的确切行为的准确质量的情况下种植硬件。”
Hinton对NeurIPS的与会者说,新的人类计算机不会取代传统的数字计算机。Hinton说:“电脑不会管理你的银行账户,知道你到底有多少钱。
“它可以用来放别的东西:可以用一美元把GPT-3之类的东西放进你的烤面包机里,所以用几瓦的电量,你就可以和烤面包机聊天了。”
Hinton受邀在大会上发表演讲,以表彰他十年前的论文《用深度卷积神经网络对ImageNet进行分类》,该论文是他和研究生Alex Krizhevsky和Ilya Sutskever共同撰写的。这篇论文因其在该领域的“巨大影响”而获得了大会的“时间考验”奖。这项工作发表于2012年,是卷积神经网络首次在ImageNet图像识别比赛中以人类水平进行竞争,这一事件开启了当前的人工智能时代。
Hinton因其在计算机科学领域的成就而获得了ACM图灵奖(该领域相当于诺贝尔奖),他成立了Deep Learning Conspiracy组织,与其他图灵奖获得者——Meta的Yann LeCun和蒙特利尔MILA人工智能研究所的Yoshua Bengio——一起重振了死气沉沉的机器学习领域。

从这个意义上说,Hinton在该领域的地位是人工智能的皇室。
在他的特邀演讲中,Hinton花了大部分时间谈论一种神经网络的新方法,称为forward-forward网络,它摒弃了几乎所有神经网络中使用的反向传播技术。他提出,通过移除后支撑物,向前向前的网状结构可能更接近现实生活中大脑发生的情况。
Hinton说,这种forward-forward的方法可能非常适合于人类的计算硬件。
Hinton说:“现在,如果要实现这样的东西,我们必须有一个学习过程,它将在特定的硬件上运行,我们学习利用特定硬件的特定属性,而不知道所有这些属性是什么。但我认为forward-forward算法是一个很有前途的候选者。”

他说,制造新的模拟人类计算机的一个障碍是,人们非常重视在数百万台设备上运行一款软件的可靠性。
他建议说:“每一部手机都必须从婴儿手机开始,并且必须学会如何成为一部手机。这是非常痛苦的。”
即使是最精通相关技术的工程师,也会因为对不确定性的恐惧而缓慢地放弃完美的、相同的不朽计算机范式。
他说:“在那些对模拟计算感兴趣的人当中,愿意放弃永生的人仍然很少。”他说,这是因为人们对一致性和可预测性的依赖。“如果你想让你的模拟硬件每次都做同样的事情,你的问题就出在这些散电之类的东西上了。”
---煤油灯科技victorlamp.com翻译整理---