几十年来,硬件架构一直清一色的使用中央处理器(CPU)、内存、外部存储和网络的组合。由于创新需要大量投资,导致商品化受到限制,芯片制造商也没有任何动力为行业提供定制解决方案或设计具体的用例。

类似地,随着公司转向标准化架构和芯片制造,芯片行业变得更加同质化。这一趋势意味着,云供应商越来越多地面临中央处理能力和网络通信延迟瓶颈的挑战。
然而,数据中心计算机制造商甚至几家零售计算机制造商已经宣布,计划最近生产自己的芯片,将以前的单个系统集成在一个芯片上。定制芯片和电路通常使用最新技术(如先进的5纳米工艺)构建,在性能和功耗方面表现出显著优势。
通过采用片上系统(SoC)方法,这些制造商现在可以根据业务需求定制电子产品,并针对特定计算优化设计,从而同时优化性能、成本和功耗。一些行业的产品性能提高了15-20%,同时显著降低了定制芯片制造的成本和生产时间。对于专注目标的用例来说尤其如此,比如大规模优化,或者比特币挖掘,这里需要并行解决大量类似性质的问题。
为了抓住这一价值,公司应在将SoC产品纳入运营之前理解其含义,并进行权衡。
规划设计和生产
目前,公司可以聘请专业供应商设计定制芯片,然后将它们送到东亚的代工工厂进行大规模生产。使用现代高级分析技术,如具有强化学习功能的神经网络,可以优化芯片的平面布图特征,如总导线长度的加权平均值,以及SoC电路的密度和拥塞度。
对芯片生产的委托公司来说,一个重要的挑战往往是法律上的:需要识别、组装和许可复合设计所需的所有专利技术。因此,需要注意确保不同供应商知识产权的硬件集成不会严重影响性能。如今,这些低成本设计替代方案主要在ARM架构上获得许可,RISC-V开放标准指令集成为一种可行的替代方案。
数据中心服务器云供应商和专门的CPU和计算机硬件提供商都在利用这种SoC方法来支持他们的传统服务器。通过快速创新,他们开始享受巨大的成功。在某些领域,基于ARM的设计正在蚕食X86/X64处理器的主导地位。几家超大规模计算公司已经宣布在其数据中心转向专有芯片设计。
与传统系统相比,新的服务器设计通常以略低的时钟速度运行,以实现显著的节能,并允许更多的内核封装在一起。一种SoC方法可以为每台服务器提供至少160个内核,以及一流的网络、内存和连接选项。例如,当前云数据中心运行的服务器拥有高达4tb的内存和128条通道,每条通道的带宽为2gb/秒。
这表明,针对上述提到的优化和比特币挖掘等问题的解决方案,已经从聚焦于芯片设计的理论性应用,发展到由产业中的专用机器来解决关键性的问题。同样,这也代表了超大规模计算的一个重大新发展,因为他们需要自己制造专用机器,而不是纯粹依赖典型的供应商为他们生产合适的芯片。
加速数据管道
尽管核心数据中心服务器正在进行激动人心的创新,但数据密集型网络通信延迟也必须得到解决。新兴趋势是将包括加密和数据加载在内的这些职责卸载到一个专用的处理单元,该处理单元还提供高级安全性和加速的数据移动能力。不同公司提供的技术在复杂程度和价位上都有很大差异。这些技术通常被定位为SmartNICs(在同一张卡上的有线网络和计算资源,用于从服务器CPU卸载任务),并且可能基于现场可编程门阵列(FPGA)、专用集成电路(ASIC)或SoC技术。目前,一种特定类型SoC——数据处理单元(DPU)已经用于一些新的芯片设计案例中。
一些产品提供了数据管道管理的重要功能,以显著减少网络延迟,支持在线加密加速,实现不同组织的数据集的高度安全“领事馆级”隔离,并将网络数据直接馈送到GPU进行机器学习预测。当然,这些设备的功能需要与下一代服务器的功能相匹配。
在变化中受益
市场瞬息万变,云供应商越来越多地向客户提供功能,而不考虑硬件。这有两个重要原因。
首先,一些显著的成本节约将传递给客户。我们看到供应商声称他们可以提供7倍的性能、4倍的计算内核、5倍的内存和2倍的高速缓存,并增加更多选择来帮助客户优化其工作负载的性能和成本。这些承诺预示着市场更广泛的变化。但这意味着提前购买了三年的约定用例——从财务角度来看,这几乎不是一个好主意——从而降低了它的吸引力。这种动态增加了云财务规划的复杂性。彻底了解云供应商路线图的含义变得越来越重要。由于跨不同区域数据中心运行的硬件的年龄,同一家云供应商可能会提供更差异化的定价(比现在的情况大得多)。
其次,数据管道变化的加速意味着数据架构也将开始演变,企业考虑不同的方法是有意义的。优先任务包括从当前系统中提取数据、降低成本和改进工作流、确定组织的数据处理能力、快速处理大量数据,以及利用重要的信息安全改进来确保遵守安全协议和法规要求。
组织必须仔细评估其当前的云部署架构,并评估如何最好地利用云供应商提出的基于专有硬件的新设置。此外,他们应该评估这些合同的成本和时间表,以优化新技术。由于上述用例的硬件和可能的高效解决方案现在可以作为服务使用,遇到特定优化问题时如何利用这些新服务将是关键的。这项工作包括实际软件的设计,以及接口和数据交换的管理。
原文链接: