摘要

神经科学(Neuroscience)一直是人工智能(AI)发展的重要驱动力。我们建议，为了加快人工智能的进展，我们必须投身于神经人工智能(NeuroAI)的基础研究。

1.介绍

在未来的几十年里，人工智能(AI)将改变社会和世界经济，其深远程度不亚于上半个世纪的计算机革命，而且可能以更快的速度发展。这场人工智能革命为在现代经济中释放人类创造力提供了巨大的机会，人工智能系统的新发展有可能使工人获得更高的生产力，并使他们从最危险和最卑微的工作中解脱出来。但是，要实现这种潜力，我们仍然需要取得进步，使人工智能在能力上更接近人类。

历史上，神经科学一直是人工智能改进的关键驱动因素和灵感来源，特别是那些使人工智能在人类和其他动物擅长的领域更加精通的领域，如视觉、基于奖励的学习、与物理世界的互动和语言，它仍然可以扮演这个角色。为了加快人工智能的发展，实现其巨大潜力，我们必须投身于“神经人工智能”的基础研究。

当前，人工智能革命的种子在几十年前就埋下了，主要是由试图了解大脑如何计算的研究人员埋下的。事实上，建造“人工大脑”的最早努力导致了现代“冯·诺依曼计算机架构”的发明，为此约翰·冯·诺依曼明确利用了他在20世纪40年代所能获得的非常有限的大脑知识。深度卷积网络催化了现代人工智能最近的革命，它建立在人工神经网络(ANNs)的基础上，直接受到了诺贝尔奖得主David Hubel和Torsten Wiesel关于猫的视觉处理电路的研究的启发。同样，强化学习(RL)的发展直接得益于对学习过程中动物行为和神经活动的洞察。

几十年后的今天，人工智能和人工智能的应用发展得如此之快，以至于许多观察人士认为，人类水平智能(有时被称为“人工通用智能”)这个长期难以实现的目标已经触手可及。然而，与该领域外部人士的乐观态度相反，许多一线人工智能研究人员认为，在我们构建出能够完成人类，甚至像老鼠这样简单得多的动物所能做的所有事情的人工系统之前，需要有重大的新突破。

尽管人工智能系统可以在象棋和围棋等游戏中轻松击败任何人类对手，但它们并不强大，在面对新奇事物时往往会遇到困难的情况。此外，我们还没有构建出能够走到架子前、取下国际象棋、设置棋子并在游戏过程中移动它们的系统。同样，没有机器能筑巢、采浆果或照顾人类幼仔。今天的人工智能系统无法与四岁儿童甚至是简单动物的感觉运动能力相匹敌，许多应对新情况所需的基本能力——动物拥有或轻松获得的能力，这对人工智能来说是一种欺骗性的挑战，部分原因是人工智能系统甚至缺乏与不可预测的世界互动的基本能力。越来越多的人工智能研究人员怀疑，仅仅扩大现有方法就能克服这些限制。鉴于需要在AI中实现更多的自然智能，很可能需要来自自然智能系统的新灵感。

虽然许多关键的人工智能进步，如卷积人工智能和RL都是受到神经科学的启发，但目前机器学习的许多研究都是基于之前开发的方法，这些方法的灵感来自于神经科学几十年前的发现，如基于注意力的神经网络，其灵感来自于大脑中的注意机制。来自现代神经科学的新影响是存在的，但它们是由少数研究人员带头的，这意味着错失了一个机会。在过去的几十年里，通过NIH BRAIN计划等努力，我们积累了大量关于大脑的知识。这让我们对支撑自然智能的解剖学和功能结构有了更多的了解。

神经AI这一新兴领域处于神经科学和人工智能的交叉点，其前提是对神经计算的更好理解将揭示智能的基本成分，并催化人工智能的下一次革命，最终导致具有与人类能力相当甚至可能超过人类能力的人工代理。我们相信现在是时候进行大规模的努力来识别和理解生物智能的原理，并将其抽象出来应用于计算机和机器人系统。尽管专注于智能行为中最具人类特征的方面，如抽象思维和推理，很有诱惑力，但智能的基本组成部分——适应性、灵活性和从稀疏的观察中做出普遍推论的能力，已经以某种形式存在于基本的感觉运动电路中，并已经进化了数亿年。正如人工智能先驱HansMoravec 所说，抽象思维“是一种新把戏，也许不到10万年，它之所以有效，只是因为它得到了这种更古老、更强大、但通常是无意识的感觉运动知识的支持。”这是个好消息，因为这意味着神经科学研究的热门对象——大鼠、小鼠和非人类灵长类动物——可以作为自然智力的实验模型。如果人工智能能够达到它们看似简单的感知和运动能力，那么向人类智能水平迈进的步伐将会大大缩短。因此，我们相信，如果我们找出所有动物都拥有的与世界无实体的感觉运动互动的核心能力，神经AI发展将带来必要的进步。

2. 神经 AI大挑战：具身图灵测试

1950年，艾伦·图灵提出了“模仿游戏”，作为一种测试机器表现出与人类相同或难以区分的智能行为的能力的方法。在那个游戏里，现在该测试被称为图灵测试，要求人类法官评估真人与经过训练模仿人类反应的机器之间的自然语言对话。图灵提出，我们不能具体地说机器是否会“思考”(他认为这是一个不可能回答的问题)，而是可以确定机器的对话能力是否与人类的对话能力难以区分。图灵提出，这是一个合理的替代无法回答的问题：“机器能思考吗？”图灵测试隐含着这样一种信念：语言代表着人类智能的巅峰，能够对话的机器一定是智能的。

在某种程度上，图灵是对的，但在另一方面，他是错的。虽然没有一个人工智能系统通过图灵测试，但最近的语言系统可以进行令人惊讶的有说服力的对话。在某种程度上，他们的成功揭示了我们是多么容易被欺骗，认为我们的对话者具有智力、能力甚至意识。另一个原因是，这些系统在某些推理任务上仍然非常糟糕。尽管这些最近的成功令人印象深刻，但它们的失败也凸显了图灵忽视了一个事实，那就是智能远不止于语言能力。当前的自然语言处理系统所犯的许多错误说明了语义、因果推理和常识的根本缺乏。词汇只有在统计上的共同出现才对这些模型有意义，而不是基于现实世界的经验，所以即使是最先进的语言模型，尽管它们的能力越来越强，仍然在物理常识的一些基本方面进行斗争。因此，最初制定的图灵测试，并没有探索像动物一样，以一种灵活的方式理解物理世界的能力。此外，这种理解可能是建立在我们惊人的感知能力和机动能力的基础上的，这些能力是经过无数代的自然选择磨练出来的。

因此，我们提出了一个扩展的图灵测试，其中包括高级的感觉运动能力。最初的图灵测试的精神是建立一个简单的定性标准，以此来判断我们在建造人工智能机器方面的进展。一个扩展的“具身图灵测试”将对人工系统与人类和其他动物之间的互动进行基准测试和比较，因为每一种动物都有自己独特的一套能力，所以每一种动物都定义了自己的实体图灵测试：一个人造海狸可能被测试建造水坝的能力，一个人造松鼠可能被测试跳过树的能力。尽管如此，几乎所有动物都拥有许多核心的感觉运动能力，而动物快速进化适应新环境所需的感觉运动技能的能力表明，这些核心技能提供了坚实的基础。下面我们将重点介绍其中的一些共同特征：

2.1 与世界互动

动物的典型特征是它们能够有目的地移动，并与环境相互作用。尽管最近在最优控制、强化学习和模仿学习方面取得了进展，机器人在控制自己的身体和操纵物体方面仍远未达到动物水平，甚至在模拟方面也是如此。当然，神经科学可以提供关于模块化和分层架构的指导，这些架构可以适应人工系统，赋予它们这些能力。它还可以为我们提供一些设计原则，比如部分自治(在没有高级模块输入的情况下，层次结构中的低级模块如何进行半自治操作)和平权控制(最初由缓慢的规划过程产生的动作如何最终转移到快速的反射系统中)。了解特定的神经回路如何参与不同的任务——比如运动；精细控制的四肢，手和手指；知觉;而行动选择——可能会为这种系统如何在机器人中实现提供一条路径，也可能启发其他形式的“智能”的解决方案，包括更多的认知领域。例如，我们推测，将电路原理用于低级别电机控制可以帮助为人工智能系统中的高级别电机规划提供更好的基础。

2.2 动物行为的灵活性

另一个目标是开发人工智能系统，使其能够参与大量灵活多样的任务，以一种与单个动物可以产生的难以置信的行为范围相呼应的方式。现代AI可以很容易地学习在电子游戏中胜过人类，如Breakout，只需要屏幕上的像素和游戏分数。然而，这些系统与人类玩家不同，它们是脆弱的，对微小的扰动高度敏感:稍微改变游戏规则，甚至是输入上的几个像素，都可能导致灾难性的糟糕表现。这是因为这些系统学习从像素到动作的映射，而不需要理解游戏中的代理和对象以及控制它们的物理。同样，自动驾驶汽车本身并不知道前面卡车上的板条箱掉落的危险，除非它真的看到过箱子从卡车上掉下来导致坏结果的例子。而且，即使它已经接受过关于箱子掉落的危险的训练，系统也可能会把一个从前面的车里喷出来的空塑料袋视为一种障碍，要不惜一切代价避免，而不是刺激物，因为它实际上并不知道塑料袋是什么，也不知道它对身体的威胁有多大。这种无法处理训练数据中没有出现的场景的情况，是对广泛依赖人工智能系统的一个重大挑战。

为了在一个不可预测和不断变化的世界中取得成功，智能体必须灵活，并利用其对这种情况可能如何展开的一般知识来掌握新情况。可以说动物就是这么做的。由于进化和发展的原因，动物天生就具备发展所需的大部分技能，或者可以从有限的经验中迅速获得这些技能，这要感谢它们在现实世界互动方面的强大基础。因此，很明显，为一项特定任务从零开始的训练并不是人们获得令人印象深刻技能的途径；动物并不是白纸黑字地来到这个世界上，然后依靠大型标记训练集来学习。尽管机器学习一直在寻求绕过这一白板限制的方法，包括自我监督学习、迁移学习、持续学习、元学习、一次性学习和模仿学习，但这些方法都无法接近实现大多数动物身上发现的灵活性。因此，我们认为，理解神经电路层面的原则，为现实世界中的行为灵活性提供了基础，甚至在简单的动物中，有潜力大大增加人工智能系统的灵活性和实用性。换句话说，通过利用进化已经参与的优化过程，我们可以大大加快对现实世界互动的通用电路的搜索。

2.3能源效率

现代人工智能的一个重要挑战——是能源效率。训练一个神经网络需要大量的能量。例如，训练GPT-3这样的大语言模型需要超过1000兆瓦时，足以为一个小镇供电一天。用于训练AI系统的总能量是巨大的，并且增长迅速。相比之下，生物系统的能源效率要高得多：人类的大脑会使用大约20瓦，大脑和计算机对能量需求的差异源于信息处理的不同。首先，在算法层面，现代大规模的ANN，如大型语言模型，依赖于非常大的前馈体系结构，随着时间的推移对处理序列具有自我关注，忽略了处理顺序信息时的潜在递归力量，原因之一是目前我们在循环网络中还没有有效的信用分配计算机制。相比之下，大脑利用灵活的循环结构来处理时间序列，显然可以高效地解决时间信用分配问题——甚至比当前人工神经网络中使用的前馈信用分配机制更有效。如果我们可以用大脑来指导如何为循环电路设计有效的训练机制，那么我们就有可能提高处理连续数据的能力，同时进一步提高我们系统的能源效率。第二，在实现层面，生物神经元主要通过传输动作电位(峰值)进行交互，这是一种异步通信协议。就像传统数字元素之间的相互作用一样，神经元的输出可以被视为一串0和1；但与数字计算机不同的是，“1”(即峰值)的能量成本比“0”高好几个数量级。因为生物电路在峰值稀疏的状态下运行——即使非常活跃的神经元也很少超过10%的占空比，而且大多数神经元的运行速率要低得多——它们的能量效率要高得多。

此外，其他因素可能有助于生物网络的能源效率。例如，生物网络可以有效地计算，即使其中一些组件非常不可靠，或“有噪声”。突触释放——神经元交流的方式可能非常不可靠，每10个信息中只有1个被传递出去。在组织电路时，峰值序列也是高度可变的，这一特征可能允许神经电路执行概率推理，这是在存在不确定性时的一种鲁棒计算形式。尽管人们正在努力开发峰值网络的潜力，到目前为止，还没有出现“杀手级应用”，表明这些网络能够以生物电路的能源效率执行。可以说，主要问题是目前的“神经形态芯片”既不能复制先天神经电路功能，也不容易训练。因此，尽管它们能效更高，但它们的用处远不如耗电巨大的数字设备。因此，我们认为，在AI中获得更高的能源效率不仅可以通过借鉴稀疏峰值网络的想法，还可以通过提供具有固有神经电路功能和学习规则的神经形态芯片。

3.解决嵌入图灵测试的路线图

如何开发通过嵌入图灵测试的人工系统？一种自然的方法是在人类进化史的指导下循序渐进地进行。例如，几乎所有的动物都从事目标导向运动；假设时间离散度为1毫秒，占空比可以定义为每秒平均峰值数除以1000，即1000个可能位置中“1”的数量。因此，一个平均放电速率为100脉冲/秒的神经元有10%的占空比，而一个平均放电速率为1脉冲/秒的神经元有0.1%的占空比。

其他(如威胁)在这些基础能力之上是更复杂的技能，如结合不同的感官信息流(如视觉和嗅觉)的能力，使用这些感官信息来区分食物来源和威胁，导航到之前的位置，权衡可能的方向和威胁以实现目标，并以精确的方式与世界互动，以服务于这些目标。在某种程度上，即使是非常简单的生物，如蠕虫，也能发现其中大部分——以及其他许多复杂的能力。在更复杂的动物中，如鱼类和哺乳动物，这些能力被精心设计，并与新的策略相结合，从而形成更强大的行为策略。

这种进化的观点提出了一种解决嵌入图灵测试的策略，即将其分解为一系列相互构建的增量挑战性测试，并在这个系列上迭代优化。此外，代表低级别和中级挑战的解决方案的生物可能包括蠕虫、苍蝇、鱼、啮齿动物和灵长类动物，这些都是神经科学研究中广泛使用的系统。这将使我们能够建立在我们已经积累的关于这些模型生物行为背后的电路和机制的大量知识的基础上。大部分研究可以在使用虚拟环境和虚拟动物的硅片中进行。为了达到所要求的行为灵活性水平，通过具体化图灵测试的人工系统将受到一系列物种特异性测试的挑战，这些测试涉及自我监督学习、持续学习、迁移学习、金属学习和终身记忆。这些挑战可以标准化，以便对进展进行量化。最终，成功的虚拟生物可以在机器人技术的额外努力下适应物理世界，并用于解决现实世界的问题。

4.实现目标的资源

首先，实现这些目标将需要大量的资源，也需要在传统人工智能和神经科学之外的许多学科的贡献，包括心理学、工程学、语言学等。除了简单地利用这些领域的现有专业知识，当务之急是培训新一代的人工智能研究人员，他们在工程/计算科学和神经科学方面同样精通。这些研究人员将借鉴神经科学几十年的进展，为人工智能研究绘制全新的方向。最大的挑战将是确定如何利用神经科学、计算科学和其他相关领域的协同和重叠来推进我们的探索：确定大脑回路、生物物理学和化学的哪些细节是重要的，以及在人工智能应用中可以忽略哪些细节。因此，迫切需要在不同领域接受过适当培训的研究人员将神经科学知识抽象出来，使其适用于计算机，并帮助设计实验，以产生与人工智能相关的新的神经生物学见解。这一研究项目的成功取决于神经科学和人工智能领域专业研究人员群体的形成。此外，明确设计新的培训项目可以确保神经AI研究社区反映整个社会的人口统计。

其次，我们需要创建一个能够开发和测试这些虚拟代理的共享平台。我们将面临的最大的技术挑战之一，在创建一个迭代的，嵌入图灵测试进化人工生物体来解决它是计算能力所需的量。目前，训练一个大的神经网络模型在一个单一的嵌入任务(例如控制一个身体3D空间)在专门的分布式硬件上可能需要几天时间。对于多个研究小组来说，要在越来越复杂的具体化的图灵任务中，通过多代迭代工作来优化和评估大量的代理，就需要在共享计算平台上进行大量的投资。就像物理学中的粒子加速器或天文学中的大型望远镜一样，这种大规模的共享资源对于推进以大脑为灵感的人工智能研究议程至关重要。这将需要一个重大的组织努力，有政府的支持，最好还有行业的支持，其核心目标是在动物和类人智能方面取得科学进步。

第三，我们需要支持神经计算的基础理论和实验研究。在过去的几十年里，通过美国国立卫生研究院(NIH)的努力，在很大程度上由于“大脑计划”(Brain Initiative)和其他主要资助方的努力，我们对大脑的了解非常多，现在我们对大脑单个细胞元素、神经元的多样性以及它们作为简单电路的一部分是如何运作的有了一定的了解。有了这些构建模块，我们就可以将注意力转向理解大脑作为一个综合智能系统是如何运作的。这需要深入了解1000种不同类型的1000亿个神经元是如何连接在一起的，每个神经元都与数千个其他神经元进行通信，它们之间有着可变的、可适应的连接，以及计算能力——即智能是如何产生的。我们必须对大脑进行逆向工程，把基本原理抽象出来。请注意，虚拟代理的发展本身将极大地加速这一努力，因为它允许在真实动物和“硅化”动物的实验之间进行直接比较，这些努力将提供对神经电路级别的属性和机制的深入了解，这些机制对于鲁棒控制、灵活行为、能源效率和智能行为至关重要。利用神经科学和人工智能之间的强大协同作用需要项目和基础设施支持，以组织和实现跨学科的大规模研究。

幸运的是，现在政府各界已经达成了共识，对人工智能研究的投资对美国的技术未来至关重要。在神经科学和人工智能领域之间建立桥梁的社区范围内的努力，将需要联邦资源的强有力投资，以及对项目里程碑、商业化支持、伦理和对创新想法的大赌注的监督。目前有一些联邦资源，如国家科学基金会的国家人工智能研究院，明确致力于从神经科学研究中推动人工智能的创新和发现，但这些很大程度上是为了支持传统的学术模式，由不同的小组研究不同的问题，而不是创建一个集中的努力，可以创建类似于体现图灵测试的东西。同样，人工智能支持赠款主要是通过国家卫生研究院、国家科学基金会、国防部，甚至是EPA的辅助项目，每一个都有自己的指令和目标。这就给技术发展本身留下了巨大的资金缺口，通过现有实体或作为一个独立的机构来创建总体指令，以支持神经AI和人工智能研究将推动这一使命，巩固美国作为人工智能研发的国际领导者的地位。

5.结论

尽管神经科学有悠久的历史，推动着人工智能的进步和未来进步的巨大潜力，但该领域的大多数工程师和计算科学家都不知道这一历史和的机会。神经科学对冯·诺依曼、图灵和其他计算理论巨人思想的影响，在典型的计算机科学课程中很少被提及。神经IPS等领先的AI大会，曾经用来展示计算神经科学和机器学习的最新进展，现在几乎只关注后者。即使是一些意识到神经科学在塑造该领域的历史重要性的研究人员，也经常认为它已经失去了相关性。“工程师研究鸟类并不是为了造更好的飞机”是人们常说的一句话。但这种类比是失败的，部分原因是航空先驱确实研究过鸟类，还有一些人仍在这样做。此外，这种类比在一个更基本的层面上也不成立：现代航空工程的目标不是实现“鸟类水平”的飞行，而人工智能的一个主要目标确实是实现(或超过)“人类水平”的智能。正如计算机在许多方面都超过了人类，比如计算质数的能力，飞机在速度、航程和载货能力等方面也超过了鸟类。但是，如果航空工程师的目标确实是建造具有“鸟类水平”能力的机器，能够飞过茂密的森林树叶，轻轻地降落在树枝上，他们最好密切关注鸟类是如何做到这一点的。 同样，如果人工智能的目标是达到动物级别的常识性感觉运动智能，研究人员最好要向动物学习，学习动物在这个不可预测的世界中进化出的行为方式。

论文链接：https://arxiv.org/abs/2210.08340