“人工智能”这个词，通常缩写为AI，对不同的人来说意味着很多不同的东西。最初，这个词语被用来暗示机器，特别是计算机，可能以与人类意识相当的水平获得自我意识。这个观念启发了很多哲学上的讨论，关于什么是人类，以及机器是否能够拥有自我意识。同样的观念也是二十世纪以来，以及至今科幻小说的核心，尽管类人意识的概念在数千年来就已存在。”

随着人工智能技术发展进入新阶段，相关概念的定义也在发生变化。我们现在考虑的是利用基因训练可进行机器学习的神经网络，并赋予它某些特性，这些特性我们现在称之为人工智能。

然而，许多这些工具，由庞大信息数据库支持的计算机算法，远不能展示出意识，而像现在臭名昭著的大型语言模型这样的工具，也只能接近于像人类一样行为。当受到文本提示时，它们可以产生一种表面上看起来与人类对同样提示的回答相符的逼真回应。

当然，这些模型的表现只有取决于它们所接受的训练和运行的算法。在此时此刻这种人工智能的历史中，我们正在快速接近“黑匣子”式的人工智能。这类系统能够根据给出的提示生成回答，甚至是系统的程序员和开发人员也无法预测的回答。这些系统的回答已经到达了无法解释的地步，尽管这并不意味着系统在任何程度上都接近了自我意识、情感行为和任何类似于对或错概念的科幻奇点。

我们开发和训练算法，让它进行预测，然后我们收集它的回应。当这些回应用于在经济、金融、工业、医疗保健和医学研究、广泛的科学领域、政治以及最令人担忧的军事机器中做出重要决策时，问题可能会出现。

如果编程和训练无法解释清楚，那么我们或者机器在促使人工智能系统做出回应时可能得到一个非常错误的结果。如果我们已经将这样的促问-回应系统控制了重要的系统，那么当一个促问在医疗环境、工厂或全球舞台上引发了完全不恰当的回应时，我们可能就会遇到麻烦。

法比安·瓦勒和迈克尔·诺伯特在《国际教学及案例研究杂志》上写道，及时确定和理解人工智能的定义和作用，对我们来说至关重要。他们聚焦于人工智能可解释性的定义，这个定义将被未来从事相关实践和学术研究的人们所使用。该工作旨在消除当前定义所存在的歧义，并通过令黑盒系统具有理解性、可解释性和透明度，从而增强决策的可信度和可靠性，使人类用户更加信任并愿意接受。