用于分类的可扩展量子神经网络-煤油灯科技

用于分类的可扩展量子神经网络

煤油灯科技2022-09-06 09:56

摘要

近年来，许多机器学习任务都借助于量子计算，通过利用量子力学来提高分类精度和训练效率，称为量子机器学习 (QML)。量子神经网络(QNN)是传统神经网络的一种对应形式，常采用变分量子电路(VQC)构建量子神经网络(QNN)。然而，由于硬件的限制，目前的量子设备只允许使用少量的量子比特来表示数据和执行简单的量子计算。单个量子器件上有限的量子资源降低了数据的利用率，限制了量子电路的规模，在一定程度上阻碍了量子优势的发挥。为了缓解这一约束，我们提出了一种利用多个小型量子设备的量子资源协同实现可扩展量子神经网络(SQNN)的方法。在SQNN系统中，多个量子设备作为量子特征提取器，并行地从输入实例中提取局部特征，量子设备作为量子预测器，对通过经典通信信道收集到的局部特征进行预测。由于SQNN系统中的量子特征提取器相互独立，可以灵活地使用不同尺寸的量子器件，较大的量子设备可以提取更多的局部特征。特别是，SQNN 可以以模块化方式在单个量子设备上执行。我们的工作是探索性的，并在使用 TensorFlow Quantum 库的量子系统模拟器上进行。评估对MNIST数据集进行二进制分类。它表明 SQNN 模型实现了与相同规模的常规 QNN 模型相当的分类精度。此外，它证明了具有更多量子资源的 SQNN 模型可以显著提高分类精度。

1.引言

量子机器学习(QML)是机器学习(ML)与量子计算相结合的革命性方法。尽管ML算法需要大量的数据来训练模型，但数据量和内存消耗的激增使得传统计算机上运行的ML算法无法得到支持。相反，基于量子力学定律的量子计算(如叠加、纠缠、隐形传态)在高效处理信息方面表现突出，优于经典计算。例如，Shor算法在因式分解时的速度是次指数级的，Grover算法在搜索时的速度是二次方的。因此，机器学习与量子计算的结合是一种自然趋势。

经典神经网络(NNs)的大量应用取得了巨大的成功，这激发了人们对量子神经网络(QNNs)的研究。考虑到当前嘈杂的中尺度量子(NISQ)设备容易产生大量噪声，变分量子电路 (VQC) 是在此类设备上构建 QNN 的通用方法。VQC由一组具有可训练参数的量子门组成，是由神经元组成的经典神经网络的对应形式。采用VQC实现的QML算法是量子与经典设备联合使用的量子—经典混合方法，如图1所示。该方法通过在量子器件上运行量子电路，在经典数据集上训练量子神经网络模型，该器件通过量子门(酉变换)制备量子比特并修改它们的量子态。并根据量子位的测量结果，利用经典优化器(如随机梯度下降(SGD))计算经典器件上VQC参数的更新。QNN的更多细节将在第二部分提供。

图1.混合量子经典架构中的通用 QNN。编码单元 $U_{e}$ 为经典输入数据准备量子态。VQC $U (θ)$ 对所制备的量子态进行变分参数θ处理，这些参数将由经典设备根据 M 测量的电路输出进行更新。

实现量子霸权的一个障碍是 NISQ 设备上的量子比特和连接数量有限。由于这样的限制，只能构建小规模的 QNN，它们无法加载高维经典数据。因此，人们做出了许多努力来克服这一限制，包括量子编码和数据降维方法。幅度编码方法可以利用量子纠缠和叠加的优势，在 $n$ 个量子比特上加载 $2^{n}$ 维经典数据，但其硬件实现效率低下，可能会引发额外的错误。角度编码是一种更容易实现的替代方法，但它只能在 $n$ 个量子比特上加载 $n$ 维数据。编码方法涉及到表示能力和硬件实现之间的权衡。因此，量子编码仍然是一个悬而未决的问题。此外，Chen等人使用预先训练的经典NN从原始数据中提取特征，以便将数据维度与量子设备上可用量子比特的数量相匹配。Steni等人使用主成分分析(PCA)缩小原始数据。然而，这些需要额外计算的方法削弱了量子加速的优势。这个悬而未决的问题促使我们设计一个不受当前量子设备尺寸限制且易于扩展用于高维经典数据的 QNN 系统。我们将其命名为可扩展量子神经网络 (SQNN)。

SQNN系统将多个小型量子设备的量子资源结合起来，模拟具有足够资源的大型量子设备，并针对高维数据训练大规模 QNN。假设在一个量子系统中有五个可用的小尺寸量子器件用于图像(高维数据)分类任务。其中四个作为量子特征提取器，其余一个作为量子预测器。该系统根据量子特征提取器的容量将训练实例划分为四个段，并分配给量子特征提取器。每个量子特征提取器将接收到的经典数据编码为量子数据，通过VQC减小原始数据的大小，将信息表示为抽象特征，然后通过测量电路的读出量子位得到提取的特征。量子预测器通过经典通信信道从量子特征提取器中收集提取的局部量子特征，并对其进行学习，利用VQC对其进行预测。目前，SQNN系统可以通过测量量子预测器VQC的读出量子位来获得预测结果。然后，与经典神经网络的优化一样，经典器件根据预测结果和预先定义的目标函数计算VQC中参数的更新。这些更新将进一步用于设置VQC的参数，以便进行下一步的训练。

SQNN 系统使 QNN 模型能够通过扩展 QNN 从高维数据中学习。此外，SQNN 系统支持灵活的数据分区策略，以充分利用量子系统的资源。通过这些策略，SQNN 根据不同数量的量子资源，将不同大小的高维数据段分配给量子特征提取器。图 3 说明了可能的输入分区策略。特别是，具有更少甚至单个量子设备的量子系统也可以训练 SQNN。将训练实例划分为多个片段后，可以重复使用可用的量子设备作为量子特征提取器，对数据片段进行操作并记录中间结果，然后作为量子预测器。

本文的主要贡献如下：

据我们所知，我们提出了第一个可扩展的量子神经网络 (SQNN)，它可以从高维数据中学习，而不受量子硬件对量子比特数量的限制。
我们提出了一种可扩展的量子机器学习方法，该方法协同使用多个小型量子设备的量子资源。
我们为二进制分类任务实现了 SQNN，并进行了广泛的评估以显示所提出设计的有效性。

在本文的其余部分，我们将在第二节回顾一些关于量子门、量子编码方法和量子神经网络的背景知识。我们将在第三节介绍所提出的方法，并在第四节展示评估。一些相关的工作将在第五节进行审查。最后，我们将在第六节总结我们的工作。

2.初步研究

2.1量子门

量子比特是量子计算的基本单位。与只能表示状态 0 或 1 的经典比特相比，一个量子比特可以以一定的概率分布同时表示状态 0 和 1。量子比特的状态表示为

其中 $∣ α ∣^{2}$ 和 $∣ β ∣^{2}$ 分别表示量子比特被测量为状态0和1的概率，即 $∣ α ∣^{2} + ∣ β ∣^{2} = 1$ 。量子比特状态也写成向量 $∣ ψ ⟩ = [α, β]^{⊤}$ 。

量子计算是通过改变量子门 $U$ （满足 $U^{†} U = U U^{†} = I$ 的酉矩阵）的量子比特的状态进行的。 Pauli 门 ${X, Y, Z}$ 和 Hadamard 门 $H$ 是基本的单量子比特门。它们的矩阵如下所示

Pauli 门 $X 、 Y 和 Z$ 将量子比特围绕布洛赫球体的 $X 、 Y 和 Z$ 轴旋转 $π$ 弧度（量子态的可视化表示）。 Hadamard 门 $H$ 为计算基态创建了一个相等的叠加态： $∣ 0 ⟩ (∣ 0 ⟩ + ∣ 1 ⟩) / 2$ 和 $∣ 1 ⟩ （） ∣ 0 ⟩ - ∣ 1 ⟩ ） / 2$ 。它是围绕 $Y$ 轴的 $π /2$ 旋转，然后是围绕 $X$ 轴的 $π$ 旋转。

基于Pauli 门，生成单量子比特旋转门，允许量子比特在Bloch球中旋转任意弧度。例如， $R_{x} (θ)$ 将量子比特在布洛赫球体中围绕 $X$ 轴旋转 $θ$ 弧度为

$R_{y} (θ)$ 和 $R_{z} (θ)$ )也是如此。Ising耦合门是由单量子比特旋转门扩展而来的双量子比特门，例如：

它同时对两个量子比特进行相同的旋转。 $R_{yy} (θ)$ 和 $R_{zz} (θ)$ 也是如此。在QML中，经常使用Ising耦合门构造VQC。

2.2量子编码

要在量子设备上处理经典数据，必须将经典数据编码到希尔伯特空间的量子态中。由于目前的量子设备在量子比特数和电路深度上存在限制，其编码方式影响了硬件实现的效率和后续量子信息处理电路的设计。本节将介绍三种主要使用的量子编码方案。

（1）基编码：基编码方法是算术运算最直接的量子编码方法。基编码首先以二进制形式表示经典数据，并将它们直接映射到量子计算基上。比如一个数值数据点[0.3, 0.6, 0.2,0.8]会根据阈值0.5转换成二进制数据点[0, 1, 0, 1]，映射到4-qubit量子计算基础 $∣0101 ⟩$ 。在编码电路的实现中，我们准备了4个初始状态为 $∣0 ⟩$ 的量子位，并在第二个和第四个量子位之后附加一个Pauli-X门，将其状态翻转到 $∣1 ⟩$ 。一般来说，基础编码方法需要 $n$ 个量子比特来加载经典数据点 $x = （ x_{1}, x_{2}, \cdot \cdot \cdot x_{n} ）$ 的二进制表示，并将其编码为

其中 $⨂$ 是张量积算子。

（2）角度编码：角度编码方法将经典数据加载为作用于量子位的旋转门的弧度。嵌入大小为 $n$ 的经典数据需要 $n$ 个量子比特和 $n$ 个量子旋转门 $R \in {R_{x}, R_{y}, R_{z}}$ 。对于经典数据实例 $x = (x_{1}, x_{2}, \cdot \cdot \cdot x_{n})$ ，角度编码方法将其准备为

（3）幅度编码：幅度编码方法将经典数据嵌入到量子态的幅度中。一个 $n$ 维归一化经典向量 $x = (x_{1}, x_{2}, \cdot \cdot \cdot x_{n})$ 被编码为 $lo g n$ -qubit 量子态的幅度

其中 $∣ i ⟩$ 是第 $i$ 个计算基础状态， $Σ ∣ x_{i} ∣^{2} = 1$ 。

2.3量子神经网络

目前广泛使用的可以运行在NISQ设备上完成分类任务的QNN是2018年提出的，它是量子计算领域经典NN的一个模拟。量子神经网络是由一系列依赖参数的量子门(酉算符)组成的量子电路，这些量子门作用于量子输入数据。一般QNN可以表示为

它是 $N$ 个量子层的乘积。第 $l$ 个量子层由非参数量子门 $V_{l}$ 和参数量子门 $U_{l} (θ_{l})$ 的乘积组成，其中 $θ_{l}$ 是变分参数。我们可以进一步将第 $l$ 层的参量量子门 $U_{l} (θ_{l})$ 表示为 $S$ 个参量量子门的产生，

其中每个参数量子门 $U_{l, j} (θ_{l, j})$ 可以用欧拉公式转换为

其中 $i$ 是虚数， $i$ 是一个 $2 \times 2$ 单位矩阵， $P$ 是一个泡利算子，来自于作用于量子比特的集合 ${X, Y, Z}$ 。

QNN 的输出是基于读出量子位计算的测量结果。由于一个量子比特的测量结果是概率性的，所以测量结果的期望值E作为QNN的输出，

其中 $∣ Ψ_{x} ⟩$ 是QNN的输入量子态， $M$ 是泡利运算符的线性组合，泡利运算符作为读出量子比特的可观察值。

混合量子经典模型中训练样本的损失 $L$ 是在经典设备上以常规方式计算的。对于给定的训练样本，用任务对期望输出 $y$ 和实际输出 $E$ 的目标函数 $ℓ (.)$ 计算损失 $L$

在模型优化阶段，就像在经典 NN 中一样，将执行反向传播和梯度下降来更新 QNN 中的变分参数。第 $k$ 个量子层中的变分参数 $θ_{k}$ 相对于损耗 $L$ 的梯度可以通过下式计算：

根据目标函数 $ℓ (.)$ 很容易得到 $\partial L / \partial E$ 。 $\partial E / \partial θ_{k}$ 可以计算为

其中

随着参数的梯度，经典设备使用优化算法（如 SGD）为 QNN 设置更新的参数。量子模型的另一种梯度计算是参数移位，它通过运行具有移位参数的相同 VQC 并计算其输出的差异来获得梯度。

3.可扩展量子神经网络

NISQ 设备上有限的量子资源限制了量子电路的可扩展性和量子计算的计算能力，特别是对于需要大量计算的 QML 任务。在本节中，我们提出了一种解决方案，SQNN，以规避量子设备的硬件限制。 SQNN背后的概念是通过协同使用多个小型量子设备上的量子资源来构建和训练一个大规模的VQC。所提出设计的架构概述如图 2 所示。SQNN 的组件在以下小节中详细介绍。采用的编码方法在3.1中讨论。在3.2中介绍了 SQNN 的变分量子层。 SQNN 的优化在3.3中描述。3.4展示了如何在小型量子系统中构建 SQNN。重要符号列于表一。

图 2. 混合量子经典架构中的 SQNN。量子系统包含五个小型量子设备，其中四个用作量子特征提取器，从输入数据的片段中提取特征，其余一个用作预测器，使用从特征提取器收集的提取特征进行预测。每个量子设备都有一个量子电路，由一个编码单元 $U_{e}$ 、一个 VQC $U (θ)$ 和一个测量单元 $M$ 组成。经典设备将帮助他们在训练期间更新其变分参数。

考虑具有 $p + 1$ 个小型量子设备的量子系统，我们将其中的 $p$ 个用作量子特征提取器用于量子局部特征提取，其余一个用作量子预测器用于预测（分类）。给定一个经典训练数据集，其中实例 $x$ 太大而无法由系统中的量子设备加载，我们使用图 3 所示的第一个分区策略将 $x$ 分成 $p$ 个大小为 $n$ 的小段，其中 $n$ 小于量子设备上可用的量子比特数。我们将片段中的实例表示为 $x = {x^{1}, x^{2}, \cdot \cdot \cdot x^{p}}$ ，将实例 $x$ 的第 $i$ 个片段表示为 $x^{i} = {x 1 i, x 2 i, \cdot \cdot \cdot x n i}$ 。

图 3. 输入分区策略。根据量子特征提取器的大小，高维输入图像可以被均匀地分割而没有重叠（左）、不均匀地分割而没有重叠（中），或者被均匀地分割并且有重叠（右）。

3.1编码单元

SQNN系统中的量子特征提取器和量子预测器都需要编码单元将经典数据转换为量子数据进行进一步的量子运算。我们在编码单元中使用角度编码方法，因为它硬件实现简单，并且能够支持输入量子数据的梯度计算，这是SQNN通过链式规则进行反向传播所必需的。

其他常用的编码方法在我们的工作中没有被采用是有原因的。正如在2.2中提到的，基本编码方法将数值数据嵌入到二进制数据中，并通过有选择地在初始状态为 $∣0 ⟩$ 的量子位后面附加Pauli-X门来实现。虽然基编码方法很简单，但由于几个原因没有被采用。首先，对于VQC的输入，它对原始数据进行不连续函数处理，不支持梯度计算。其次，实例的二进制表示会丢失很多有用的信息，这在ML任务中是不可取的。第三，多个数值实例可以映射到精确的二进制表示，这减少了训练数据的数量。振幅编码方法由于其硬件实现复杂，不能提供一种简单的计算量子电路输入梯度的方法，因此在本工作中也没有使用。在SQNN中量子电路输入梯度的计算和使用的细节将在第3.3节中讨论。

量子角度编码单元的电路如图 4 所示。当一个量子设备接收到经典实例 $x$ 的第 $i$ 个片段时，它将片段平展为向量 $x^{i} = [x 1 i, x 2 i, \cdot \cdot \cdot x n i]$ 并将条目映射到 $[0, 2)$ ，并准备 $n$ 个具有初始状态 $∣0 ⟩$ 的量子比特。编码单元独立设置量子比特的状态，以使用旋转门 $R$ 表示数据。更具体地说，第 $j$ 个量子比特将通过一个旋转门 $R (x j i)$ 将处于其状态的 $x j i$ 作为某个叠加

图 4. 角编码单元。经典数据向量 $x^{i} = [x 1 i, x 2 i, \cdot \cdot \cdot x n i]$ 使用旋转门 $R \in {R_{x}, R_{y}, R_{z}}$ 加载到 $n$ 个数据量子比特上。

因此， $x^{i}$ 的制备的量子态显示为每个量子比特态的张量积

3.2变分量子层

量子神经网络由两类变分量子层组成:量子特征提取层和量子预测层。它们分别部署在量子特征提取器和量子预测器上。

（1）量子特征提取器：接收第 $i$ 个大小为 $n$ 的经典实例 $x^{i}$ 的量子特征提取器将在其量子电路中使用 $n + 1$ 个量子比特，如图 5(a) 所示。前 $n$ 个量子位是数据量子位，通过编码单元将经典数据加载为量子态 $∣ Ψ_{x^{i}} ⟩$ 。最后一个用作读出量子位，将被测量以获得量子数据处理的结果。一般来说，一个量子电路可以有多个读出的量子比特，但为了简化，我们只展示了一个。

图 5. SQNN 中的两种量子层

量子特征提取层是一个VQC，它将量子特征从数据量子位映射到读出量子位，使用两个量子位参数化的量子门，创建它们之间的纠缠。在本工作中，我们采用Ising耦合门来纠缠量子比特，并遵循引入的VQC设计。我们将连续作用于n对数据和读出量子位的 $n$ 个门定义为一个块。与经典神经网络相似，变分门作为神经元，块作为一层QNN。该块可以重复使用，构建一个参数更多的复杂QNN。我们将部署在第i个量子特征提取器上的量子特征提取层表示为 $U f i (θ f i)$ ，其中 $θ f i$ 是可训练参数。与所有数据量子位纠缠后，读出的状态为从段 $x^{i}$ 中提取的量子特征，通过Eq. 4测量得到实数 $f_{i}$

（2）量子预测器:量子预测器通过常规通信信道从 $p$ 个量子特征提取器中收集提取的局部特征，用实数 $f = {f_{1}, f_{2} ， \cdot\cdot\cdot ， f_{p}}$ 表示。预测器电路利用编码单元和一个读出量子位加载提取的局部特征，输出预测结果，如图5(b)所示。通常情况下，读出量子比特的数量取决于分类任务，即 $k$ 类分类任务需要 $lo g k$ 个读出量子位。假设我们正在执行一个二进制分类任务，只使用一个读出量子比特。

量子预测层是一个 VQC，联合学习局部特征并对其进行预测。 VQC的设计与量子特征提取层的设计相同。我们将量子预测层表示为 $U_{p re} (θ_{p re})$ ， $θ_{p re}$ 代表可训练参数。实例 $x$ 的预测结果为

其中 $∣ Ψ_{f} ⟩$ 是提取特征 f 的量子态， $y^{'}$ 是 $[- 1, 1]$ 范围内的实数。对于标签为 $- 1$ 和 $1$ 的二元分类，如果结果 $y^{'}$ 为负，我们将其映射到标签 $- 1$ ；否则，标记为 $1$ 。

3.3优化

在前向传播之后，经典设备从量子预测器接收 $x$ 的预测结果 $y^{'}$ 。经典设备将通过以下方式计算当前训练实例 $x$ 的损失

其中 $ℓ (.)$ 是预定义的损失函数，例如均方误差 (MSE) 损失， $y$ 是 $x$ 的实际标签。具有量子设备上 VQC 知识的经典设备将优化 SQNN 的参数。下面，我们将演示基于反向传播的量子预测层和量子特征提取层的梯度推导以及梯度下降法的优化。

量子预测层中变分参数 $θ_{p re}$ 相对于损失 $L$ 的梯度由下式获得

其中 $\partial y^{'} / \partial θ_{p re}$ 可以通过Eq. 7计算。而且 $\partial L / \partial y^{'}$ 很容易计算。然后参数 $θ_{p re}$ 随学习率 $r$ 更新为

可以得到第 $i$ 个量子特征提取层的变分参数 $θ f i$ 相对于损失 $L$ 的梯度如下

$∂f_i/∂θ{i\atop f}$ 也可以由式7计算出来。 $∂y^{\prime}/∂f_i$ 是输入局部特征 $f_{i}$ 对量子预测器 $y$ 输出的偏导数。通过上述编码方法，将量子预测层的输入 $f_{i}$ 通过 $R\left(f_i\right)$ 编码到第 $i$ 个量子比特中。因此,我们得到

为了优化第 $i$ 个量子特征提取层，经典设备使用学习率 $r$ 更新 $θ{i\atop f}$

到目前为止，我们已经在单个训练实例上完成了 SQNN 的优化过程。为了以小批量方式训练SQNN，只需在小批量数据中记录每个样本的参数梯度，并利用梯度的平均值使经典设备更新变分参数。

3.4小型量子系统中的 SQNN

本节展示了如何在一个没有足够量子器件的小型量子系统中，借助经典器件来构建和训练SQNN。我们考虑在量子系统中只有一个量子器件的特殊情况。

由于量子特征提取器独立工作，我们根据量子设备上的量子比特数将经典训练实例划分为 $p$ 个大小相等的段，并让设备依次充当 $p$ 个特征提取器。当量子设备作为第 $i$ 个量子特征提取器工作时，它使用初始化参数 $θ{i\atop f}$ 构建电路 $U{i\atop f}$ 并对数据段 $x^{i}$ 执行量子操作。经典设备记录电路结构、电流参数和提取的局部特征 $f_{i}$ 。一旦设备完成了作为量子特征提取器的工作，它通过初始化量子预测器电路 $U_{pre}\left(θ_{pre}\right)$ 并在提取的特征 $f$ 上执行它来充当量子预测器。经典设备还记录了它的电路结构和参数。然后经典设备更新3.3中介绍的参数。在接下来的训练步骤中，量子设备将首先再现电路并重新加载最新的参数，然后再重复上一步。

在由多个不同尺寸的量子器件组成的量子系统中，可以将经典实例划分为不同尺寸的可用量子器件的段，如图3所示，以充分利用系统的量子资源。

4.实验和结果

SQNN 使用二进制分类任务进行评估。我们使用 MNIST 手写数字数据集中标记为“3”和“6”的图像进行二进制分类。去除带有其他标签的图像后，我们有 12049 个训练样本和 1968 个测试样本。 MNIST 中的手写数字图像经过预处理，将数字定位在 28 × 28 字段的中心。在我们的实验中，我们使用 TensorFlow Quantum 库在经典设备上模拟 SQNN 的电路。并且考虑了 SQNN 的多量子机器系统的两种场景：具有相同和不同大小的量子特征提取器的 SQNN。

在这里，我们定义了实验中用于构建 QNN 分类器的基本模型的形式。对于 $n + 1$ 个量子比特的量子器件，基本模型定义为：前 $n$ 个量子比特是存储量子数据的数据量子比特，最后一个量子比特是读数，通过测量提供量子计算结果。在基本模型的每个块中，每个数据和读出的量子比特之间的纠缠是由 $\left\{R_{\times}\left(θ\right)、R_{yy}\left(θ\right)、R_{zz}\left(θ\right)\right\}$ 中相同的变分 Ising 耦合门创建的，如图 5 所示。用于生成实验结果的源代码可在 github.com/Jindi0/SQNN 中获得。

4.1观察结果

我们首先展示了一些关于NISQs的硬件限制如何影响常规QNN分类器的性能的观察结果。假设有3台大小为4 + 1、9 + 1和16 + 1量子比特的量子机器，我们在每个设备上使用上述定义的基本模型实现一个QNN分类器。最后一个量子位作为读出器，其余的量子位用于在第3.1节所述的编码单元中加载带有Rx门的经典训练数据。在编码阶段，将28 × 28的经典手写数字图像缩小到2 × 2、3 × 3和4 × 4大小，分别加载到三个量子设备上。

图 6(a) 展示了具有三个块的 QNN 分类器的性能。每个模型已经训练了 100 个 epoch，其最佳准确度由图 6（a）右侧面板中的红点表示。在具有三个块的 QNN 分类器中，具有 16 个数据量子位的 16qb_3blk 模型在验证数据集上具有 92.04% 的最佳精度。以下是9个数据量子比特的9qb_3blk模型，准确率达到88.37%。具有 4 个数据量子位的 4qb_3blk 模型的准确度最低，为 81.18%。我们还在这些量子设备上评估了具有六个块的 QNN 分类器的性能，并将结果展示在图 6（b）中。模型的最佳准确率在 16qb_6blk 模型上为 90.99%，在 9qb 6blk 模型上为 89.45%，在 4qb_6blk 模型上为 82.00%。我们观察到，基于不同数量数据量子比特的模型之间的比较，从更高维输入数据中学习的 QNN 模型可以在相同块数的情况下实现更低的训练损失和更高的准确度。此外，由于需要训练更多参数，因此较大的模型需要更多的训练时间才能达到性能最佳的点。

图 6. QNN 分类器在单个设备上的性能。单设备 QNN 模型由 4、9 和 16 个数据量子位 (qb) 组成。每种尺寸的 QNN 都使用三个和六个变分电路块 (blk) 进行评估。在 100 个训练阶段期间，它们的最佳准确度用红点标记。这些结果表明，从高维数据中学习的 QNN 模型可以获得更好的性能。

我们进一步比较了数据量子比特数相同但块数不同的三对 QNN 分类器的分类精度。对于具有相同数据量子比特数的 QNN，如图 7 所示，更多的块不会提高验证精度，但可以提高训练过程的稳定性。因此，我们认为量子比特的数量（输入数据的维度）对 QNN 分类器的分类精度的影响比电路深度更显著。

图 7. 3-block 和 6-block QNN 分类器的精度比较。比较具有相同数量的数据量子比特 (qb) 但不同数量的变分电路块 (blk) 的 QNN 模型。图像显示具有相同数量量子比特的模型实现了相似的性能，但具有六个块的模型的准确性显示出较小的波动。

4.2具有均匀分区的 SQNN

本小节展示了基于 SQNN 的量子分类器的性能。 SQNN 分类器应该从原始大小的训练数据中学习。然而，非常高维的量子操作无法通过经典设备进行模拟。因此，在我们的模拟器中，由基本量子块组成的 VQC 最多只能包含 17 个量子比特。

首先，我们通过比较在相同大小的数据上训练的 SQNN 分类器与常规 QNN 分类器的性能来证明 SQNN 分类器的有效性。我们实现了一个 SQNN 分类器，该分类器在缩小尺寸 4 x 4 的 MNIST“3”和“6”图像上进行训练，以与在常规 QNN 分类器中实现最佳性能的 16qb_3blk 模型进行比较。

假设一个量子系统中有五个（4 + 1）个量子比特的量子设备，我们使用其中四个作为量子特征提取器，剩下的一个作为量子预测器。量子特征提取器上的量子电路的结构类似于 16qb_3blk 模型，并且量子预测器上的量子电路有一个编码单元和一个块来合并提取的特征。我们将 SQNN 模型称为 16qb_sqnn 模型，总共有 16 个数据量子位。我们将 4x4 缩小后的图像均匀地划分为 4 个 2x2 片段，如图 3 左图所示。16qb_3blk 和 16qb_sqnn 模型的训练损失和验证准确率比较如图 8 所示。16qb_sqnn 实现了 92.59%的准确率，与16qb_3blk,92.04%所达到的准确率相当。因此，实验证明了 SQNN 的有效性。

图 8.QNN 和 SQNN 分类器的性能比较。 SQNN 和单设备 QNN 模型都具有三个变分电路块 (blk) 和 16 个数据量子位 (qb)。它们的可比性能说明了 SQNN 模型的有效性。

接下来，我们讨论了不同尺度下的SQNN分类器在量子系统中的性能。在三种尺度的量子系统中实现了SQNN分类器，其性能如图9所示。本实验中考虑的每个量子系统都包含一个(4+1)量子比特的量子预测器和四个(4+1)量子比特、(9 +1)量子比特或(16 +1)量子比特大小的量子特征提取器，即将数据样本均匀分成4个段，如图3所示的第一个面板，然后分别在4×4、6 × 6和8 × 8大小的图像上训练三个SQNN分类器。共有64个数据量子位的SQNN分类器(4个量子特征提取器，每个量子位16)记为64qb SQNN模型，准确率最高为97.47%。36个数据量子比特的36qb sqnn模型的准确率为95.10%，16个数据量子比特的16qb_sqnn模型的准确率为92.59%。

图 9.SQNN 分类器在三个尺度的量子系统中的性能。三个 SQNN 模型分别使用 16、36 和 64 个数据量子比特 (qb) 实现，它们的最佳精度用红点标记。比较表明，具有更多量子资源的模型可以表现更好。

根据结果，可以观察到在更大规模的量子系统中实现的 SQNN 分类器具有更好的性能，这与第4.1节的观察结果一致。36qb_sqnn 模型和 64q_sqnn 利用来自多个量子设备的更多量子资源的分类精度均高于16qb_3blk 模型，这是在单个量子设备上训练的最佳模型。

4.3不均匀分区的 SQNN

我们现在假设一个量子系统包含各种大小的量子特征提取器。例如，一个量子系统包含四个量子器件:一个(8+1)-量子比特量子器件、两个(4+1)-量子比特量子器件和一个(3+1)-量子比特量子器件。通常，选择最小的设备作为量子预测器。为了充分利用量子特征提取器上的量子资源，我们将数据降维至4×4，并将其划分为2 ×4段和2 × 2段，如图3中的第二面板所示。然后我们将它们分别分配给(8 + 1)量子比特量子器件和两个(4 + 1)量子比特量子器件。图10将不均匀划分模型16qb不均匀sqnn与另外两个模型16qb_3blk和16qb_sqnn用相同大小的输入数据训练后的性能进行了比较。图10表明，采用非均匀分区策略的SQNN的性能与其他两种模型相似。因此，我们认为在具有不同尺寸量子器件的量子系统中，SQNN也是有效的。

图 10. 输入分区策略的性能比较。本实验对比了三个 16 数据量子比特 (qb) 模型：单设备模型 16qb_3blk、SQNN 模型 16qb_sqnn 和不均匀输入分区的 SQNN 模型 16qb 不均匀 sqnn。各种输入分区策略的可用性由它们的可比性能证明。

5.相关研究

本文研究的主题被称为量子神经网络，是变分量子算法的一个案例。该领域已经有一些使用量子计算执行分类任务的工作。这些方法包括量子机器学习、量子启发机器学习和混合量子经典机器学习。

在这些方法中，混合方法备受关注。《用于多类分类的混合经典量子方法》中提出了一个量子多类分类器 QMCC，它使用 $n$ 个量子比特来编码一个 N 维数据向量，并使用 $k$ 个辅助量子比特作为读数来存储 $k$ 个类别中的预测标签。尽管量子计算机比经典计算机快得多，但混合量子经典方法的速度仍然受到经典阶段的限制。因此，已经为加速做出了一些努力。《使用多级系统的量子分类器的监督学习》中提出的“单次训练”风格使用具有相同标签的所有输入样本同时训练分类器，以加快训练过程。 QReliefF 通过结合量子机器学习和边缘计算来加速训练过程，以便可以并行完成一些计算。除了量子计算阶段，量子编码阶段的时间成本也可以通过使用量子数据集来降低，使得量子设备不需要对经典数据进行编码。在《用于量子机器学习的纠缠数据集》中提出了一个量子数据集 NTangled。它由具有不同数量和类型的纠缠的量子态组成。

由于量子设备的硬件限制，量子模型在研究数据中潜在模式的能力有限。现有的方法必须缩小原始数据的大小，以适应量子设备上可用的量子位的数量。直观的方法是将原始数据缩减到很小的规模，但很多有用的信息会丢失。《基于张量网络和变分量子电路的混合量子-经典分类器》中提出了一种解决方案，使用量子激发张量网络TN ，特别是矩阵乘积状态作为特征提取器来减少数据量，然后将压缩后的数据作为VQC的输入来执行监督学习任务。然而，量子激发的TN在经典设备上运行，这降低了训练速度。在《大规模量子机器学习》中提出了一个大规模QML。它通过随机测量计算量子核，并通过重复编码层在量子器件上加载高维经典数据，这增加了量子电路的深度，与我们工作中考虑的QNN方法不兼容。

QNN 的分布式系统旨在协同训练多方之间的量子模型。QuantumFed 结合 QNN 和联邦学习，允许多个量子设备在其私有数据集上协作训练 QML 模型。并且作者进一步考虑了量子联邦学习的安全问题。他们在《防御量子联邦学习中的拜占庭式攻击》中介绍的工作保护在联邦学习系统中训练的 QML 模型免受拜占庭攻击，其中对手上传恶意信息以降低模型性能。通过盲量子计算实现的联邦 QNN 实现了差分隐私，以保证客户的隐私。DSQML，分布式安全量子机器学习，被提出来实现一个安全的 QNN，而不会泄露任何关于训练数据的信息。上述方法在经典设备上是计算密集型的，并且没有克服量子硬件的限制。与之前的工作相比，我们提出的方法除了混合方法所需的更新计算外，不需要在经典设备上执行额外的计算。

6.结论

考虑到为 QNN 构建大规模量子设备的难度和成本，我们提出了一种可扩展的量子神经网络（SQNN），该网络部署在多个小型量子设备上。在本文中，我们考虑了用于二进制分类任务的 SQNN 模型。 SQNN 分类器通过将高维训练数据划分为小段来学习。并且量子系统中资源受限的量子设备并行地从片段中提取局部特征。然后使用充当量子预测器的量子设备合并和预测提取的特征。此外，可以将训练样本划分为不同大小的片段，以充分利用具有不同数量量子资源的量子设备。此外，我们展示了单个小型量子设备也能够根据 SQNN 方法训练大型神经网络。大量实验表明，拥有更多的量子资源可以显著提高 SQNN 分类器的准确性，并且我们提出的方法优于使用有限量子资源训练的常规 QNN。

---煤油灯科技victorlamp.com翻译整理---

上一篇：AI 系统如何从零开始学习踢足球

下一篇：DeFi与许可DeFi的区别

你可能也喜欢这些文章