人工智能（AI）的迅猛发展引起了该领域的一些重要声音的呼吁，他们要求对研究进行暂时停顿，提出人工智能可能导致人类灭亡的可能性，甚至要求政府进行监管。他们的关切核心在于人工智能可能变得如此强大，以至于我们失去对其的控制。

我们是否忽视了一个更基本的问题？

为什么呢？它们存在两个关键弱点。首先，不能帮助决策者理解因果关系和不确定性。其次，它们会激励人们大量收集数据，并可能助长对隐私、法律、伦理问题和风险持放松态度的倾向。

原因、效应和信心

ChatGPT和其他“基础模型”使用一种称为深度学习的方法，通过大量数据集搜寻并识别数据中包含的因素之间的关联，例如语言模式或图像与描述之间的关联。因此，它们擅长插值——即预测或填补已知值之间的空白部分。

插值并非创造之同谋。其不能产生知识，亦无法为在复杂环境中操作的决策者提供所需的洞察力。

然而，这些方法需要大量的数据。因此，它们鼓励组织收集大型数据存储库，或者在已收集用于其他目的的现有数据集中搜寻。处理“大数据”带来了与安全、隐私、合法性和伦理等方面相关的巨大风险。

在低风险的情况下，基于数据所暗示的预测可以极其有用。然而，当风险增加时，我们需要回答另外两个问题。

首先是关于世界运转的问题：“是什么驱动着这个结果？”其次是关于我们对世界认知的问题：“我们对此有多大的信心？”

从海量数据到有用的信息

或许令人惊讶的是，旨在推断因果关系的人工智能系统并不需要“大数据”，相反，它们需要有用的信息。信息的有用性取决于所涉及的问题、我们面临的决策以及我们对这些决策后果的重视程度。

要用中文表达美国统计学家和作家内特·希尔弗所说的话，大致意思是无论我们收集了多少数据，真相的数量大致相同。

那么，问题的解决之道是什么呢？这个过程始于开发能够告诉我们我们真正不知道的AI技术，而非生成现有知识的变体。

为什么呢？因为这有助于我们识别并获取最少量的有价值信息，并以一种顺序逐渐解开因果关系。

月球上的机器人

这样的知识构建人工智能系统已经存在。

举一个简单的例子，想象一下有一个机器人被送到月球上去回答这个问题：“月球表面是什么样子的？”

机器人的设计者可能会给它一个关于它将会遇到什么的先前“信念”，并指示该信念应该有多大的“信心”。信心的程度与信念同样重要，因为它是机器人所不知道的事物的衡量指标。

机器人降落了，面临一个抉择：它应该朝哪个方向前进呢？

因为机器人的目标是尽快了解月球表面，所以它应该选择使其学习效果最大化的方向前进。这可以通过衡量新知识对机器人对景观的不确定性减少的程度，或者说对机器人对自身知识的信心增加的幅度来进行衡量。

机器人前往新的位置，利用其传感器记录观察结果，并更新其信念和相应的置信度。通过这样的方式，它以最高效的方式学习了月球表面的情况。

像这样的机器人系统，被称为“主动SLAM”（主动同时定位与地图构建）已在20多年前首次提出，并且至今仍是一个热门的研究领域。这种持续积累知识和更新理解的方法是基于一种统计技术，被称为贝叶斯优化。

勘探未知之境

政府或工业领域的决策者面临的复杂程度超越了那位探测月球的机器人，然而思维模式却是相似的。他们的工作涉及探索和绘制未知的社会或经济地貌。

假设我们希望制定政策，鼓励所有孩子在学校中茁壮成长并顺利完成高中学业。我们需要一个概念性的蓝图，明确哪些行动、在什么时机、在什么条件下，能够帮助实现这些目标。

运用机器人的原理，我们制定了一个初步的问题：“哪些干预措施对儿童最有帮助？”

接下来，我们利用现有的知识构建一个初步的概念图。与此同时，我们还需要一种衡量我们对这些知识的自信程度的方法。

然后，我们开发了一个模型，融合了不同的信息源。这些信息并非来自机器人传感器，而是来自社群、亲身经历以及录制数据里的一切有用的信息。

在此之后，根据对社区和利益相关者偏好的分析，我们做出一个决策：“应该实施哪些行动，以及在什么条件下？”

最后，我们进行讨论、学习、更新信念，并重复这个过程。

我们边走边学

这是一种“边学边做”的方法。随着新信息的得到，我们会选择新的行动来最大化一些预先设定的标准。

人工智能可以发挥作用的地方在于通过能准确衡量我们所不知道的内容的算法，来辨识哪些信息是最有价值的。自动化系统还能以人类难以企及的速度和不易达到的位置收集和储存那些信息。

像这样的人工智能系统采用了一种被称为贝叶斯决策理论框架的方法。它们的模型可被解释和透明，建立在明确的假设基础上。它们具有数学严密性，并能提供保证。

它们的设计目的是估计因果路径，以帮助在最佳时机进行最佳干预。通过由受影响社区共同设计和共同实施，它们融入了人类价值观。

我们确实需要改革自己的法律体系，并制定全新的规则，以指导潜在危险人工智能系统的使用。然而，同样重要的是在首次选择工具时做出明智的决策。