
ChatGPT 于 2022 年 1 月风靡全球,发布后五天内就获得了 2 万用户。当人们看到它可以生成的文本时,它的潜在价值就不需要解释了。生成式人工智能工具有可能改变整个行业。只要问问风险投资家就知道了,他们在2022年向生成型人工智能初创公司投资了26亿美元。
但所有这些潜在价值都伴随着高昂的代价。生成模型越复杂,所需的计算资源就越昂贵。据报道,ChatGPT本身每天的运行成本为100万美元,而谷歌的ChatGPT竞争对手Bard每次查询的成本将是标准关键字搜索的千倍。这种过度计算消耗的环境成本无疑同样陡峭,这还不包括训练如此复杂模型的高成本、理解新数学公式的学习曲线,或者需要开发工具和基础设施方面的专业知识以使这些解决方案发挥作用。
生成式AI的成本可能是企业采用的主要障碍。虽然从编写代码到生成营销内容的用例比比皆是,但企业可能会对在其专有数据和现有内容上训练和运行模型所需的成本犹豫不决。要真正开始企业应用程序的生成式AI革命,成本需要大幅降低。
受量子物理学启发的技术有可能降低大型语言模型(LLM)的计算成本。更重要的是,这些量子启发的技术可以拓宽企业生成式人工智能的用例,特别是在解决复杂的优化问题方面。
量子技术如何降低生成式AI的成本
本文关注的量子启发技术是张量网络——本质上是用于表示变量之间复杂相关性的有效线性代数结构。它们最初在想要在经典计算机上模拟量子态的量子物理学家中流行起来。
张量网络可能在量子计算的发展中发挥关键作用:它们今天可以在经典硬件上模拟量子电路,将来可能会被真正的量子电路所取代。因此,张量网络可以允许用户开始在经典硬件上开发“量子应用程序”,这些硬件可以在未来的容错量子计算机上运行。这将允许企业开发一旦我们拥有容错或强错误缓解的量子计算机就可能有用的功能。
但张量网络也可能为生成式人工智能带来更多的近期商业价值。张量网络可能是模型压缩的有用工具,能够为大型神经网络 (NN) 提供加速和尺寸减小。这些功能适用于主要的 NN 架构,包括变压器,即 ChatGPT 中使用的 NN 类型。
因此,通过“张量化”,张量网络有可能降低生成AI的成本和碳足迹,使生成模型更容易访问,并加速其在企业中的采用。这种成本降低还可以使生成式AI部署在边缘设备上,例如手机和语音助手。撇开生成式人工智能不谈,张量化还可以降低其他复杂模型的成本,例如蒙特卡罗模拟,这些模型可能占用金融企业整个计算预算的很大一部分。
张量网络不仅可以压缩生成模型,而且生成的张量生成模型也可以生成更高质量的样本。这可能会对生成式AI的企业应用产生重大影响。除了文本和图像生成的经典示例之外,张量生成模型还可以为工业环境中比比皆是的复杂优化问题生成新的解决方案。
通过创成式建模增强优化
通常,优化问题是那些目标是根据某些标准从各种可能的解决方案中找到最佳解决方案的问题。在工业环境中,优化问题可能有数千个相互冲突的目标,解决方案必须平衡这些目标,例如最大限度地提高产量,同时最大限度地降低成本。
在优化问题的最佳现有解决方案上训练的生成模型可以为此类问题生成新的解决方案。(在我的公司,我们称这种策略生成器增强优化(GEO),尽管应该注意的是,这项研究尚未经过同行评审。
理论上,您可以为此策略使用任何生成模型。但我们发现,张量网络比其他经典模型更能从训练数据中泛化。换句话说,张量网络可以更好地理解使好的解决方案变得好的基本特征,并为优化问题生成新的解决方案,而不是简单地重复模型训练的解决方案。
除了生成AI的一般应用外,张量网络的结构还可以特别帮助解决优化问题。
例如,相等约束可以直接编码到张量网络中,仅输出有效样本。虽然传统方法在添加相等约束时经常受到影响,但张量化方法可以在使用更少计算资源的同时提供更好的性能,因为张量网络可以通过更多的相等约束更稀疏地参数化。
生成 AI 张量网络的局限性
当然,细节决定成败。通过张量化和生成建模,挑战将是将复杂的业务问题转化为数学公式。将有一个学习曲线来理解张量网络的数学基础,作为神经网络的替代数据结构。
其次,团队需要开发使这些解决方案发挥作用所需的工具和基础架构方面的专业知识。这包括强大的工作流程,可以集成来自整个企业的新数据。这些模型的输出还需要转化为可以为业务决策提供信息的见解,这需要多功能团队、专业知识和正确的技术。
从生成式 AI 中获取更多价值
当替换为在容错量子设备上运行的真实量子电路时,张量网络的影响可能会进一步放大。张量网络可以使企业从当今的生成式AI中获得更多价值,并为量子计算时代的价值铺平道路。
随着量子硬件的成熟,值得探索哪些硬件配置可以在基于张量网络的生成模型上提供最大的价值。