伴随强大的力量，负有巨大责任。就互联网而言，力量体现在用户随处可得的丰富信息中，但谁应当负责确保这些信息的真实性和可靠性呢？

“不好的”信息具有严重的影响。在互联网和社交媒体平台上，误导性信息、宣传和虚假新闻普遍存在，并可能被武器化，从而导致网络滥用和在严重情况下引发社会动荡。

南加州大学信息科学研究所（ISI），维特比工程学院的一个单位，致力于解决这个问题的两个项目。这些项目的目标是通过开发技术，使其在遭遇这些“错误”信息时能够运用推理能力来解决问题。

这项技术将作为人类管理员的助手，负责监控在线平台并扫描恶意内容。

您可以信赖的技术

第一个项目涉及到在自然语言论证中检测逻辑谬误。

那么，究竟什么是逻辑谬误呢？

逻辑谬误是一种用于证明一个论点正确的推理错误。它们的起源可以追溯到互联网时代之前——在哲学领域的辩论中，它们的根源可以追溯到大约2800年前的古希腊。

在网络环境下，逻辑谬误以虚假或误导性陈述的形式出现，这是由于大规模的信息自由交流所带来的结果，在互联网的推动下广泛流传。

菲利普·伊利夫斯基，ISI的研究主管兼南加州大学的助理教授，表示在应对网络信息共享活动所带来的真正巨大挑战之前，发现逻辑谬误是必须要掌握的第一步。

“一旦你能够可靠而透明地识别出逻辑谬误，你就可以将这项技术应用于处理虚假信息、假新闻和宣传问题。”伊利夫斯基说道。

伊利夫斯基解释说，这项工作是首次应用多个层次来检测逻辑谬误的。这意味着要求模型首先确定所给出的论证是否是正确的，然后深入一层，"在高层次上识别出该论证包含的谬误类型"。

他们是如何知道的呢？

可解释的人工智能能够准确定位并分类逻辑谬误，主要有两种显著方法：基于案例的推理和原型设计方法。

Ilievski指出ISI的工作是最早将这两者与语言模型相结合，并使它们能够适用于任意情境和任务的之一。

案例推理就像它听起来一样。模型展示了一个旧的例子，其中包含类似的逻辑谬误，然后利用这些知识推断出对一个新的论证的决策。

"你说得很好，我不知道如何解决这个争论，但我有一个古老的例子可以用在你面前的这个新问题上，" Ilievski 解释道。

原型方法遵循相同的过程。唯一的区别是，模型从一个简化的基本案例中进行推理，这个案例可以作为基础，并应用于一个具体的例子。

关键在于这些模型不仅仅是在识别逻辑谬误，它们还提供合理的解释来支持其判断，这种行为被Ilievski认为是这些方法在实践中的“令人鼓舞因素”。

一个人最好的工具

这在现实世界中如何应用，抵御那些在网络上构成威胁的真正巨头——宣传、错误信息和虚假新闻？

Ilievski设想这些可解释的AI将充当“人类助手工具”，协助那些监控在线社区的主持人或分析师。

版主负责监督全天候进行想法交流的数百万用户的活动。考虑到数量和复杂性，人工检查错误逻辑是一项繁重的工作。引入机器学习技术可以帮助减轻这个负担。

“假设你在一个社交媒体平台上担任主持人，并且你想要了解一件事是否具有谬误。如果有这样一种工具能够提供帮助并展示潜在的谬误，尤其是当它们涉及宣传和潜在的错误信息时，这将对主持人非常有帮助，”Ilievski解释道。

他补充道，可解释性因素，或者说AI能够在识别谬误后提供推理的能力，是真正“培养人工智能与人类框架之间的信任和使用”的关键。

然而，他告诫我们不可盲目信任可解释性人工智能工具。

“它们可以让我们的生活更加便利，但仅靠它们本身还不足够，”伊列夫斯基指出。

梗，厌女症与更多

可解释的人工智能还可以被教导如何辨识那些包含问题元素的梗，比如有时候明显歧视或冒犯特定人群或整个社会的“黑色幽默”。

对于这个第二个项目，团队聚焦在两种特定类型的有害迷因内容上：厌女情绪和仇恨言论。

塞维尔·苏拉蒂是南加州大学的研究生，与伊利夫斯基一同参与这两个项目的研究。他表示，在信息在网络上迅速传播的背景下，透明地检测具有问题基础的梗图表现至关重要。

对于内容管理者来说，能够及早识别这些表情包确实非常重要，因为它们在社交媒体平台，如Twitter或Facebook上迅速传播，迅速吸引了大量观众的目光。

苏拉蒂说，本质上，梗取决于更多的方面，这可能超出了我们的视线。尽管梗通常以简洁的形式存在（有时甚至只包含一张简单的图片），它们常常反映出难以解释的文化参考。

“你有一张图像，也许甚至没有一个完整的句子，只有一段文字。它可能指的是一个概念、一部电影，或者是新闻中的某个事物，”Sourati解释道。“你立刻就知道它很有趣，但是很难解释为什么，即使对于人类来说也是如此，这也适用于机器学习。”

这种难以解释的特征使得教导机器学习如何对其进行分类更具挑战性，因为它们首先必须理解其意图和含义。

进入实质问题

伊利夫斯基和苏拉蒂采用的框架被称为“基于案例的推理”。

案例推理实质上是人类解决问题的方式：借鉴先前的经验，并将这些知识应用于新的场景。

机器示范了一些具有问题的模因示例以及问题所在。随后，Sourati表示，机器能够建立一个示例库，这样当它被要求分类一个可能与之前的示例有些许抽象关系的新模因时，它能够"带着目前所具备的全部知识来解决这个新问题"。

例如，如果他们特别关注厌恶女性的问题，他们可能会问："为什么这个梗是厌恶女性的？是在羞辱吗？是刻板印象吗？是在展示对女性的物化吗？"

他们使用了一个解释性界面来可视化模型的推理过程，并理解为什么模型会做出预测。这种可视化策略有助于故障排除和提高模型的技能。

"一个好处是我们可以进行更简单的错误分析。如果我们的模型在100个案例中犯了20个错误，我们可以打开这些20个案例，并查看模型在所描绘的不同人口统计学或特定对象指示方面的偏见模式，" Ilievski解释道。“也许每当它看到冰淇淋时，它会认为那是厌女症。”

人类与人工智能：一对英勇的伙伴

正如逻辑谬误的检测一样，模因分类也不能完全自动化，需要人类与人工智能的合作共同完成。

话虽如此，Ilievski和Sourati的研究结果展示出人工智能在帮助人类检测恶意言论和对女性的厌恶倾向方面有着可喜的前景。

"理解迷因的复杂性，或者如Ilievski所称的那种"惊喜元素"，使得从事这个话题变得特别令人兴奋。"

"从人工智能的角度来看，这个过程中存在一定的困难因素，这使得它非常有趣，因为在这些段子中有一些隐含的信息，" Ilievski说道。

“这里有文化和背景的维度，还有一个与创造者思维非常相关的创造性和个人化的概念。所有这些因素共同促使我对这个项目充满了特别的激情。”他补充道。

ISI团队将他们的发现和代码公开供其他研究人员使用，希望未来的工作能够持续发展人工智能在与危险和有害内容的斗争中对人类的支持能力。