研究建立了量子神经网络超参数化理论

煤油灯科技2024-07-16 15:38

一项理论证明表明,一种称为过参数化的技术,在量子机器学习中将性能提升到超越经典计算机的应用水平。

"我们相信我们的研究结果将有助于利用机器学习来学习量子数据的特性,例如分类量子材料研究中不同的物质相,这在传统计算机上非常困难,"来自洛斯阿拉莫斯国家实验室的博士后研究员迭戈·加西亚-马丁说道。他是该实验室最新发表于《自然计算科学》的一篇关于这一技术的论文的合著者。"

2021年,来自马德里自治大学的研究生Garcia-Martin在实验室的量子计算暑期学校中从事研究工作。

机器学习,或者说人工智能,通常涉及训练神经网络来处理信息数据,并学习如何解决一个特定任务。简单地说,可以把神经网络想象成一个有旋钮或参数的盒子,它以数据作为输入,根据旋钮的配置产生一个输出。

“在训练阶段,算法会根据学习情况更新这些参数,尝试找到最佳设置。”加西亚-马丁说道,“一旦确定了最佳参数,神经网络就能够将从训练实例中学到的知识外推到新的、以前未见过的数据点上。”

经典人工智能和量子人工智能在训练参数时都面临一个挑战,就是算法可能会得到一个次优的配置,导致训练停滞不前。

性能的飞跃

"超范数化"是经典机器学习中一种众所周知的概念,它通过不断添加参数的方式来防止停滞。

直到现在,人们对于量子机器学习模型中过度参数化的影响理解不足。在这篇新论文中,洛斯阿拉莫斯(Los Alamos)团队建立了一个理论框架,用于预测量子机器学习模型过度参数化的关键参数数量。在某个关键点上,增加参数会促使网络性能的飞跃,并且模型训练的难度显著降低。

“通过建立量子神经网络超参数化理论,我们的研究为优化训练过程和在实际量子应用中实现更好的性能铺平了道路,”马丁·拉罗卡解释道。他是这篇手稿的主要作者,也是洛斯阿拉莫斯实验室的博士后研究员。

利用量子力学中的纠缠和叠加等方面,量子机器学习承诺比经典计算机上的机器学习速度更快,即量子优势。

在机器学习领域中避免陷阱

为了阐述洛斯阿拉莫斯小组的发现,该论文的高级科学家、实验室量子理论学家Marco Cerezo提出一组思维实验:一名徒步旅行者在黑暗的景色中寻找最高的山峰,这就代表了训练的过程。徒步旅行者只能向特定的方向走,并通过使用有限的GPS系统来测量海拔,以此来评估他的前进程度。

在这个比喻中,模型中的参数数量对应着徒步者可以移动的方向,Cerezo说道。他说:“一个参数可以让徒步者前后移动,两个参数则可以实现横向移动,以此类推。”数据景观很可能有超过三个维度,与我们假想的徒步者的世界不同。

只有参数过少,步行者无法全面探索,可能会把小山误认为是最高的山,或者陷入一个任何步伐都似乎无用的平坦地区。然而,参数数量增加后,步行者可以在更高维度的多个方向移动。最初看似局部山丘的地方可能会变成两个峰顶之间的高山谷地。有了额外的参数,远足者可以避免被困,在找到真正的山峰或问题的解决方案时不会迷失。

你可能也喜欢这些文章

科技互联网,科技,资讯,动态,洞察,量子,计算,AI,人工智能,机器人,区块链,Web3,分布式,操作系统,OS,芯片,视频,深度,论文