近六个月来，像GPT这样强大的大型语言模型的发布引起了广泛的兴趣。然而，随着用户发现这些模型可能会犯错，以及它们与我们一样并不完美，对这些模型的信任逐渐减少。

如果一款LLM输出的信息不正确，则被称为“幻觉”，现在有越来越多的研究力量致力于最小化这种效应。但是，当我们应对这一任务时，值得反思我们自己的偏见和幻觉容忍度，以及这如何影响我们所创建的LLM的准确性。

通过理解人工智能产生幻觉潜力和我们自身之间的联系，我们可以开始创造更智能的人工智能系统，最终帮助减少人类错误。

人们如何产生幻觉

人们编造信息是一个公开的秘密。有时候我们这样做是有意为之，有时候则是无意识的。后者是由认知偏差或“启发式”造成的：我们通过过去的经验形成的心理快捷方式。

这些快捷方式往往是为了应对需求而产生的。在任何时刻，我们只能处理有限数量的信息涌入感官，只能记住曾经接触到的信息的一小部分。

因此，我们的大脑必须利用已学习的联想来填补不足之处，快速应对摆在我们面前的任何问题或困境。换句话说，我们的大脑根据有限的知识猜测正确答案可能是什么。这被称为“捏造”，是人类偏见的一个例子。

我们的偏见可能导致错误的判断。例如自动化偏见，即我们倾向于更信任由自动化系统（如ChatGPT）生成的信息，而忽略非自动化来源的信息。这种偏见可能导致我们错过错误，甚至根据虚假信息采取行动。

另一个相关的启发式是“光环效应”，即我们对某物的初次印象会对我们之后与它的互动产生影响。而“流畅偏见”则描述了我们更喜欢易于阅读的信息。

归根结底，人类的思维常常被认知偏差和扭曲所牵制和影响，而这些"幻觉"倾向大多发生在我们的意识之外。

人工智能是如何产生幻觉的

在LLM的背景下，幻觉是不同的。LLM并不试图保存有限的精神资源以有效地理解世界。在这个上下文中，“幻觉”只是描述了对输入做出合适反应的预测失败了。

然而，人类和LLMs幻觉的方式仍存在一些相似之处，因为LLMs也会这样做以"填补空白"。

LLMs通过预测接下来可能出现的词汇，基于之前出现的内容以及系统通过训练所学习到的联系，从而生成相应的响应。

像人类一样，LLM（Language Model）试图预测最可能的回答。不同的是，它们这样做是在不理解自己在说什么的情况下进行的。这就是为什么它们有可能输出无意义内容的原因。

关于为什么LLMs会出现幻觉，有很多因素。其中一个主要因素是基于缺陷或不足的数据进行训练。其他因素包括系统如何通过这些数据学习，并在人类的进一步培训中强化这种编程。

共同进步

因此，如果人类和LLM都容易产生幻觉（尽管原因不同），那么哪一个更容易修复呢？

修复支撑LLM的训练数据和流程也许似乎比修复我们自己更容易。但这忽略了影响人工智能系统的人类因素（并且是另一种被称为根本归因错误的人类偏见的例子）。

现实情况是，我们的失误和技术上的失误密不可分，因此解决一个问题有助于解决另一个问题。以下是一些可行的方法。

通过这样的合作方式，我们可以构建更为智能的人工智能系统，这些系统可以帮助我们把所有幻觉都控制在一个可接受的范围内。

例如，人工智能正在医疗保健领域应用，用于分析人类的决策。这些机器学习系统可以检测人类数据的不一致性，提供提示并引起临床医生的注意。因此，在保持人类责任的同时，诊断决策可以得到改善。

在社交媒体的背景下，人工智能被用来帮助训练人类审核员，以便更好地识别滥用行为。例如， Troll Patrol 项目旨在解决针对女性的网络暴力问题。

另一个例子是，将人工智能和卫星影像相结合，可以帮助研究人员分析不同地区夜间照明的差异，并将其作为该地区相对贫困的标志（其中照明更多与贫困程度更低相关）。

重要的是，虽然我们正在致力于提高LLM的准确性，但我们不应忽视它们当前的不可靠性如何反映我们自身的问题。

本文是根据创意共享许可条款，从The Conversation转载的。请阅读原始文章。