从图像处理、智能医疗、自动驾驶汽车、智慧城市等人工智能 ( AI )各个领域的突破来看，这无疑是深度学习的黄金时期。在未来十年左右的时间里，人工智能和计算系统最终将具备像人类那样学习和思考的能力——处理连续不断的信息流，并与现实世界实现互动。

然而，当前的人工智能模型在连续接受新信息训练时存在性能下降的问题。这是因为每次生成新数据时，都会将其写入现有数据之上，从而擦除以前的信息。这种效应被称为“灾难性遗忘”。一个难点来自于稳定性-可塑性问题，即 AI 模型需要更新其记忆以不断地适应新信息，同时保持其当前知识的稳定性。这个问题阻碍了最先进的人工智能不断从现实世界的信息中学习。

边缘计算系统允许计算从云存储和数据中心转移到靠近原始源的地方，例如连接到物联网的设备。在资源有限的边缘计算系统中有效地应用持续学习仍然是一个挑战，尽管已经提出了许多持续学习模型来解决这个问题。传统模型要求计算能力高，存储容量大。

最近，新加坡科技与设计大学(SUTD)的一组研究人员设计了一种新型的代码，以实现高效节能的持续学习系统，其中研发人员包括Go Shao-Xiang, Wang Qiang, Wang Bo, Yu Jiang和Natasa Bajalovic。研究团队由SUTD的助理教授Desmond Loke领导，这些研究人员的研究的《持续学习电阻开关记忆材料的导电性》（Continual Learning Electrical Conduction in Resistive-Switching-Memory Materials），已发表在《高级理论与模拟》杂志上。

该团队提出了脑激励重放(brain - inspired Replay, BIR)，这是一个受大脑启发的模型，可以自然地进行持续学习。基于人工神经网络和变分自编码器的BIR模型模拟了人脑的功能，可以在不存储数据的类增量学习情况下表现良好。研究人员还使用BIR模型来表示数字存储系统中使用电流的导电灯丝生长。

助理教授Loke解释说:“在这个模型中，知识被保存在训练过的模型中，以便在引入额外任务时最小化性能损失，而不需要参考以前工作的数据。所以，这为我们节省了大量的能源。”

Loke补充说：“此外，在不存储数据的情况下，实现了对当前学习任务的挑战的89%的最先进的准确性，这比传统的连续学习模型高出约两倍，而且能源效率提高了。”

为了让模型能够在现实世界中独立处理现场信息，研究小组计划在下一阶段的研究中扩大模型的可调节能力。

“基于小规模的演示，这项研究仍处于早期阶段，”助理教授Loke说。“这一方法的采用有望使边缘AI系统在没有人类控制的情况下独立发展。”

原文链接：https://techxplore.com/news/2022-08-strategies-humans.html

论文链接：https://onlinelibrary.wiley.com/doi/10.1002/adts.202200226