当麻省理工学院林肯实验室超级计算中心(LLSC)在2019年推出TX-GAIA超级计算机时，它为麻省理工学院社区将人工智能应用于他们的研究提供了一个强大的新资源。麻省理工学院的任何人都可以向该系统提交一份工作，该系统每秒处理数万亿次操作，为各种应用训练模型，如在医学图像中发现肿瘤，发现新药物或模拟气候效应。但伴随着这种强大的力量，也肩负着以一种可持续的方式管理和运营它的巨大责任——团队正在寻找改进的方法。

“我们有这些强大的计算工具，让研究人员建立复杂的模型来解决问题，但它们本质上可以用作黑匣子，我们忽略的是我们是否真的在尽可能有效地使用硬件，”LLSC的研究科学家Siddharth Samsi。

为了深入了解这一挑战，LLSC在过去一年中一直在收集关于TX-GAIA使用的详细数据。在超过100万用户工作之后，该团队向计算社区开放了数据集的源代码。

他们的目标是使计算机科学家和数据中心操作员更好地理解数据中心优化的途径，随着处理需求的持续增长，这是一项重要的任务。他们还看到了在数据中心本身利用人工智能的潜力，通过使用数据来开发预测故障点、优化作业调度和提高能源效率的模型。虽然云提供商正在积极地优化他们的数据中心，但他们并不经常将数据或模型提供给更广泛的高性能计算(HPC)社区使用，这个数据集和相关代码的发布试图填补这个空间。

LLSC的高级研究员 Vijay Gadepally说：“数据中心正在发生变化。我们拥有爆炸式的硬件平台，工作负载的类型在演变，使用数据中心的人的类型也在改变，到目前为止，还没有一个很好的方法来分析对数据中心的影响。我们认为，这项研究和数据集是朝着找到一种原则性方法、理解这些变量如何相互作用、然后应用人工智能进行见解和改进迈出的一大步。”

描述数据集和潜在应用的论文已经被许多场合接受，包括IEEE高性能计算机架构国际研讨会、IEEE国际并行和分布式处理研讨会、计算语言学协会北美分会年会、IEEE高性能和嵌入式计算会议、高性能计算、网络国际会议、存储和分析等。

工作负载分类

在世界TOP500超级计算机中，TX-GAIA结合了传统的计算硬件(中央处理器或CPU)和近900个图形处理单元(GPU)加速器。这些NVIDIA GPU专门用于深度学习，这类人工智能已经催生了语音识别和计算机视觉。

数据集包括CPU、GPU和内存的使用情况;调度日志以及物理监测数据。与谷歌和Microsoft的类似数据集相比，LLSC数据集提供了“标记数据、各种已知AI工作负载，以及与之前的数据集相比更详细的时间序列数据。据我们所知，这是目前最全面、粒度最细的数据集之一。

值得注意的是，该团队以前所未有的细节水平收集了时间序列数据：每个GPU上100毫秒的间隔，每个CPU上10秒的间隔，这些机器处理了3000多个已知的深度学习任务。第一个目标是使用这个标记过的数据集来描述不同类型的深度学习工作在系统上所处的工作负载，例如，这个过程将提取硬件处理自然语言模型与图像分类或材料设计模型的不同之处的特征。

研究团队现在发起了MIT数据中心挑战赛以动员这项研究。这项挑战要求研究人员使用人工智能技术，利用他们标记的时间序列数据作为基本事实，以95%的准确率确定正在进行的工作类型。

这样的洞察力可以使数据中心更好地匹配用户的作业请求与最适合它的硬件，可能节省能源和提高系统性能。对工作负载进行分类还可以让操作人员快速发现由硬件故障、低效的数据访问模式或未经授权的使用导致的差异。

选择太多

如今，LLSC提供的工具可以让用户提交他们的工作，并选择他们想要使用的处理器，“但对用户来说，这是大量的猜测，”Samsi说。“有些人可能想使用最新的GPU，但也许他们的计算实际上并不需要它，他们可以在CPU或低功耗机器上获得同样令人印象深刻的结果。”

东北大学的Devesh Tiwari教授正与LLSC团队合作开发技术，帮助用户将他们的工作负载与合适的硬件相匹配。Tiwari解释说，不同类型的AI加速器、GPU和CPU的出现给用户带来了太多的选择。如果没有正确的工具来利用这种异构性，他们就会错过一些好处，比如更好的性能、更低的成本和更高的生产力。

Tiwari说：“我们正在弥补这种能力上的差距，让用户更有效率，帮助用户更好更快地进行科学研究，而不用担心管理异构硬件。”“我的博士生Baolin Li正在使用基于贝叶斯优化和其他基于学习的优化方法的技术，构建新的能力和工具，以帮助HPC用户在没有用户干预的情况下近乎最优地利用异构性。但是，这仅仅是个开始。我们正在寻找方法，以一种有原则的方法在我们的数据中心引入异构性，以帮助我们的用户自主地、经济有效地实现异构性的最大优势。”

工作负载分类是通过数据中心挑战提出的众多问题中的第一个，其他包括开发人工智能技术，以预测作业失败、节约能源或创建提高数据中心冷却效率的作业调度方法。

节能减排

为了调动对绿色计算的研究，该团队还计划发布TX-GAIA操作的环境数据集，包括机架温度、功耗和其他相关数据。

据研究人员表示，提高用于人工智能处理的高性能计算系统的功率效率存在巨大的机会。举个例子，LLSC最近的工作表明，简单的硬件调优，比如限制单个GPU的功耗，可以将训练AI模型的能量成本降低20%，而计算时间只会略微增加。 Gadepally说：“这一减少转化为大约一个星期的家庭能源价值仅增加三小时的时间。”

他们还一直在开发预测模型准确性的技术，这样用户就可以迅速终止不可能产生有意义结果的实验，从而节约能源。数据中心挑战赛将分享相关数据，使研究人员能够探索其他节约能源的机会。

研究小组期待，此次研究的成果可以应用到美国国防部运营的数千个数据中心。

其他合作者包括麻省理工学院计算机科学与人工智能实验室 (CSAIL) 的研究人员。Charles Leiserson 教授的 Supertech 研究小组正在研究并行计算的性能增强技术，研究科学家 Neil Thompson 正在设计研究如何推动数据中心用户转向气候友好型行为的方法。

Samsi在去年春天的首届AI for数据中心优化(ADOPT’22)研讨会上展示了这项工作，作为IEEE国际并行和分布式处理研讨会的一部分，研讨会正式向高性能计算社区介绍了他们的数据中心挑战。

Samsi说：“我们希望这项研究能让我们和其他运行超级计算中心的人更能响应用户的需求，同时也能在中心层面降低能源消耗。”

原文链接：https://techxplore.com/news/2022-08-supercomputing-center-dataset-aims-ai.html