如今用于图像识别的人工智能系统非常强大，具有巨大的商业应用潜力。尽管如此，目前的人工神经网络——支持图像识别的深度学习算法——有一个巨大的缺点：它们很容易被稍加修改的图像破坏。
对于希望构建更好的人工智能的研究人员来说，这种“鲁棒性”的缺乏是一个重大障碍。然而，这种现象发生的确切原因以及背后的潜在机制，在很大程度上仍是未知的。
为了克服这些缺陷，九州大学信息科学与电气工程学院的研究人员在《PLOS ONE》杂志上发表了一种名为“Raw Zero-Shot”的方法，该方法可以评估神经网络如何处理未知的元素，研究结果可以帮助研究人员识别使人工智能“不稳健”的共同特征，并开发出纠正其问题的方法。
领导这项研究的Danilo Vasconcellos Vargas解释说：“图像识别神经网络在现实世界中有一系列应用，包括自动驾驶汽车和医疗保健中的诊断工具。然而，无论人工智能训练得多么好，它都可能因为图像的微小变化而失败。”
在实践中，图像识别人工智能在被要求识别一个样本图像之前，会对许多样本图像进行“训练”。例如，如果你想让人工智能识别鸭子，你首先要让它学习许多鸭子的图片。
尽管如此，即使是训练有素的人工智能也会被误导。事实上，研究人员已经发现，一张图像可以被处理，尽管它在人眼看来可能没有变化，但人工智能无法准确识别它，即使是图像中一个像素的变化也会引起混淆。
为了更好地理解为什么会发生这种情况，该团队开始研究不同的图像识别人工智能，希望确定它们在面对未经训练的样本时的行为模式，即人工智能未知的元素。
“如果你给人工智能一个图像，它会试图告诉你它是什么，不管这个答案是否正确。所以，我们选取了今天12种最常见的人工智能，并应用了一种名为‘Raw Zero-Shot Learning’的新方法。基本上，我们给人工智能一系列没有提示或训练的图像。我们的假设是，他们的回答会有相关性，他们是错的，但错误的方式是一样的。”
他们的发现正是如此。在所有情况下，图像识别人工智能都会产生一个答案，而这些答案尽管是错误的，也是一致的，也就是说它们会聚集在一起，每个集群的密度将表明人工智能如何处理不同图像的基础知识的未知图像。
Vargas说：“如果我们了解人工智能在做什么，以及它在处理未知图像时学到了什么，我们就可以利用同样的理解来分析为什么人工智能在面对单像素变化或轻微修改的图像时崩溃。利用我们获得的知识，试图通过将其应用于另一个不同但相关的问题来解决一个问题，这被称为可转移性。”
该研究小组观察到，胶囊网络(也被称为CapsNet)产生了最密集的集群，在神经网络之间具有最好的可转移性。他们认为这可能是因为CapsNet的动态特性。
Vargas说：“虽然今天的人工智能是准确的，但它们缺乏进一步实用的稳健性。我们需要了解问题是什么以及为什么会这样。在这项工作中，我们展示了一种研究这些问题的可能策略”。
Vargas最后表示说，我们不应该只关注准确性，而是必须研究提高鲁棒性和灵活性的方法。到那时，我们或许就能开发出真正的人工智能。
