量子经典卷积神经网络在放射图像分类中的应用-煤油灯科技

量子经典卷积神经网络在放射图像分类中的应用

煤油灯科技2022-09-11 13:06

摘要

量子机器学习目前正受到广泛关注，但与经典机器学习技术相比，它在实际应用中的实用性仍不清楚。然而，有迹象表明，与经典算法相比，某些量子机器学习算法可能会提高训练能力——这可能在可用训练数据很少的情况下特别有益。这种情况在医学分类任务中会自然出现。本文提出了不同量子电路设计和编码技术的混合量子经典卷积神经网络(QCCNN)。它们被应用于2D和3D医学成像数据，例如在计算机断层扫描中具有不同的、潜在的恶性病变。这些QCCNN的性能已经与它们的经典对应物相似，因此鼓励进一步朝着在医学成像任务中应用这些算法的研究方向发展。

1.引言

量子机器学习(QML)结合了目前备受关注的两个领域：量子计算和机器学习。这个术语本身具有不同的含义——本文侧重于将量子增强机器学习技术应用于经典数据。近年来，QML的研究势头日益强劲，但与传统机器学习相比，QML的优势尚不清楚。该研究集中在两个关键方向：过包含基于量子计算的子程序来加速经典机器学习方法，或研究参数化（也称为变分）量子电路，可以像经典机器一样进行类似的训练学习技巧。我们的努力主要集中在在某些方面“击败”经典的机器学习技术，比如降低计算复杂度或提高模型的表现力。

然而，这些研究大多是在人工问题设置或玩具数据集上进行的，其中还报告了 QML 变体相对于其经典对应物的经验优势。缺少对现实世界问题或工业用例的广泛应用。更重要的是，也缺乏对量子算法可能优于经典算法的情况的理论理解。这种情况的部分原因是缺乏大规模的纠错量子计算机 (QC)(即具有许多纠错量子比特)，以及缺少实现量子随机存取存储器 (QRAM) 以读取大量数据的例程。相反，目前可用的量子计算机是有噪声的，因此被称为嘈杂的中等规模量子 (NISQ) 设备。这些NISQ计算机的噪声量子比特数量有限，约为100量子比特，显示出量子比特和门失真之间有限的连接。这就限制了可以在这种硬件上运行的量子电路和算法的种类，限制了它们只能使用有限数量的量子比特和很小的电路深度。为了解决目前量子硬件的局限性，采用混合算法是最有希望的，它具有量子计算机与经典计算系统之间的迭代。在这里，部分算法在量子计算机上运行，但其他部分仍然在经典系统上运行。经典系统可以用来更新变分量子电路中的参数值。此外，QC不太可能取代经典计算机，除非在非常具体的计算中，QC将充当量子处理单元(QPU)。因此，变分量子算法是能够从NISQ计算机中获益的量子算法的自然候选者。

然而，在评估这些算法的实际用途时，考虑相对于经典变量的实时速度提高还没有意义，因为NISQ计算机和经典系统之间的迭代在实践中仍然太慢。因此，在本文中，我们专注于某些QML算法与经典算法相比可能提供的不同优势：在可用的小训练集大小的情况下导致更准确的训练和泛化，或者通过使用较少数量的可训练参数。

这种情况会自然出现在医学成像任务的环境中，因为在这种情况下，成像数据的可用数量有限，而且创建更多数据既困难又昂贵。高精确度的预测是可取的，因为错误的分类会破坏人工智能(AI)更快、更可靠地做出临床决策的承诺。许多罕见疾病将受益于机器学习方法，这种方法能够从小型数据集中很好地进行归纳，因为可以纳入临床试验的患者数量是有限的。对放射图像的分类任务通常采用特征提取方法，如放射组学或卷积神经网络(CNNs)。CNN在一般成像任务中已经取得了卓越的性能，这使得它们在工业任务中得到广泛应用，但通常需要大量的训练数据集。因此，我们探索是否可以从混合QC辅助机器学习方法的应用中获益，特别是在训练数据很少的情况下。在这方面，我们之前研究人员的基础上，将可训练的量子经典卷积神经网络(有时也称为量子卷积神经网络)应用于具有不同类型病变甚至癌症的2D和3D医学成像数据。

我们的贡献如下：

我们提出了一种混合量子经典卷积神经网络架构，用于在乳房的 2D 超声图像上识别乳腺癌，并在腹部计算机断层扫描 (CT) 扫描图像的轴向切片上对不同器官进行分类。
我们将这种方法扩展到 3D 医学成像数据，首次证明了量子经典卷积神经网络在 3D 成像数据上的性能。
我们研究了不同的量子编码方案，将经典数据嵌入到量子电路中，证明医学数据集的行为与之前研究中的简单 MNIST 数据集明显不同。
我们首次研究了量子经典卷积神经网络中量子电路在训练性能方面的不同设计。

本文的结构如下。第二节讨论相关工作。第三节介绍了理解混合量子经典卷积神经网络结构所需的背景知识，第四节也详细介绍了我们实验研究的设置。第五节展示了这些算法在模拟中选择的医学成像数据集上的性能。

2.相关研究

2.1CNNs

CNNs是一种特殊类型的神经网络，通常用于计算机视觉任务，例如图像分类。 CNN 通常由一系列卷积层和池化层组成，然后是一个或多个全连接层。卷积层通过使用具有可训练权重的 n 个过滤器对输入进行迭代卷积来识别图像模式。滤波器的大小对于 2D 图像为 $k \times k$ ，对于 3D 图像的卷积为 $k \times k \times k$ 。生成的输出特征由非线性激活函数处理。

2.2放射成像中的 CNN

人工智能在医学领域受到了广泛关注，并已被证明达到了与人类相当的性能，并产生了意想不到的新见解。CNN经常被应用于放射图像，因为它们与传统的计算机视觉任务（例如摄影图像的分类）相似。与摄影图像的主要区别在于通过成像获取的信息——在 CT 的情况下，测量以 Hounsfield 为单位的 X 射线吸收与通常三个可见光通道中的强度的关系——以及通过断层成像获取的 3D 信息。固有的3D数据导致了对3D CNN用于医学成像的积极研究。同时，数据管理已被确定为在医学中成功实施人工智能的核心瓶颈。由于耗时的专家注释、成像成本和隐私问题，医学成像数据的采集成本很高。因此，典型的高质量数据集相对较小且复杂。数据集的有效使用已被确定为人工智能在医学成像中广泛应用的一个重要挑战。

2.3量子卷积神经网络

鉴于CNNs在图像分类任务中的成功，不同的方案被开发出来，以将类似的思想应用于变分量子算法。在[20]中，提出了一种具有量子卷积层、量子池化层和量子分类层的量子卷积神经网络(QCNN)，通过量子池化层实现非线性。与基于量子电路的通用分类器相比，该分类器的计算复杂度降低了双指数，学习效率更高。《一种用于图像识别的量子深度卷积神经网络》则建议一个由量子卷积层和量子分类层序列组成的QCNN，没有任何池化层。在MNIST和GTSRB数据集上实现了良好的分类性能，但该方法需要QRAM，而现有的QC中还没有QRAM。在NISQ设备上，数据输入大小具有挑战性。因此，《经典数据分类的量子卷积神经网络》限制为仅使用一个和两个量子比特门，并通过应用双线性插值技术、主成分分析或自动编码器来减少输入数据的维度。

2.4混合量子经典卷积神经网络

另外，为了将CNN的整个思想映射到一个量子变体，之前的研究探索仅将一些卷积层实现为量子卷积层，同时将架构的其余部分保持为经典层，从而获得真正的混合量子经典算法。这种方法的优点是通常不需要QRAM。提出的体系结构的不同之处在于量子卷积层是否可训练。具体来说，用于图像识别的量子深度卷积神经网络提出了一个由不可训练的、随机选择的门组成的量子卷积层。与传统的CNN相比，该架构的性能有所提高，但并没有超过在前面添加经典随机层的经典变体。作为编码方案，用于图像识别的量子深度卷积神经网络采用了3.2节中所描述的阈值编码，这可能不太适合灰度或更复杂的成像数据。

另外，经典数据分类的量子卷积神经网络探索了阈值编码之外的不同编码方案，并将不可训练的量子卷积层扩展到可训练的量子卷积层，尽管CNN的其余部分仍然是经典的。研究表明，在某些情况下，其他编码方案，如量子图像的灵活表示(FRQI)和新的增强数字图像的量子图像表示(NEQR)[29]编码可能比阈值编码更适合，其中作者探索了MNIST数据集。与用于图像识别的量子深度卷积神经网络相比，它们的量子卷积层返回z基中测量的量子位值的矢量，而用于图像识别的量子深度卷积神经网络的量子层输出是状态矢量中被测量的 $∣1 ⟩$ 量子位的和。由于在量子硬件上运行时间过长，用于图像识别的量子深度卷积神经网络和经典数据分类的量子卷积神经网络只在模拟中探索其网络的性能。此外，经典数据分类的量子卷积神经网络只处理200幅图像的小数据集，以减少仿真中的计算时间。因此，也没有执行超参数调优。

3.研究背景

3.1这项工作中 CNN 的详细信息

这项工作中使用的 CNN 具有一系列卷积层的简单架构（在 2D 数据的情况下只有一个），然后是激活函数。为此，使用了 ReLU 函数。使用连续的池化层可以减少特征图的大小，并且可以避免过度拟合。全连接层用于执行分类。最后一层的输出数量对应于训练中使用的不同类的数量。预测的类别由输出分数最大的类别决定。

3.2混合 QCCNN 的详细信息

在这项工作中使用的混合 QCCNN 应用了量子卷积层，或者代替 CNN 的传统卷积层、池化层和全连接层。它们由一个或多个充当卷积滤波器的变分量子电路组成。在下文中，描述了变分量子电路的不同组件。

（1）编码：编码特征图(以下简称编码)描述了不同的(数据)输入值如何映射到量子电路的量子比特上。为此目的存在不同的技术。编码技术决定了在量子电路中需要多少量子比特。这项工作仅使用将一个输入值编码到一个量子比特上的技术。因此，所需的量子比特数等于在一个卷积中处理的输入数，由 2D 图像的 $k \times k$ 和 3D 图像的 $k \times k \times k$ 的滤波器大小给出。在这项工作中考虑了以下编码技术：

阈值编码：这种编码技术是在用于图像识别的量子深度卷积神经网络中介绍的。使用某个阈值 $t$ ，如果 $x < t$ ，输入 $x$ 被编码为量子状态 $∣0 ⟩$ ，否则为状态 $∣1 ⟩$ 。
角度编码：在角度编码中，采用基于输入值 $x$ 的角度旋转门进行编码。它通过围绕 $Y$ 轴旋转角度 $x$ 对输入进行编码，我们使用 $X$ 轴旋转执行编码。在我们的实验中，量子比特最初处于状态 $∣0 ⟩$ 。这导致编码后的量子态 $R_{X} (x) ∣ 0 ⟩$ 。
高阶编码：这种编码技术是在《量子增强特征空间的监督学习》中提出的，除了单量子位门外，还使用了双量子位门。这种技术导致纠缠的编码特征图。量子比特最初处于状态 $∣ 0 ⟩$ 并使用 Hadamard 门和 $Z$ 轴旋转 $R_{Z} (x_{n})$ 进行转换，其中 $x_{n}$ 表示第 $n$ 个输入。之后，对每个量子比特对 $i$ 和 $j$ 应用纠缠操作 $R_{Z} (ϕ_{ij})$ 。该操作由一个 CNOT 门、一个旋转 $R_{Z} (ϕ_{ij})$ 和另一个 CNOT 门组成。旋转 $R_{Z} (ϕ_{ij})$ 应用于第 $j$ 个量子位，我们使用 $ϕ_{ij} = x_{i} * x_{j}$ 。遵循 [9] 的命名约定，我们将这种技术称为高阶编码。虽然这种编码比其他两种方法更复杂，但它对我们的研究特别有趣：在 [32] 中表明，对于支持向量机，只有在编码特征图难以经典模拟的情况下才能实现量子优势。因此，在我们的实验中，我们研究了这种编码技术对 QCCNN 的性能。

（2）电路设计：电路设计描述了在编码后将哪种旋转门和纠缠门组合应用于量子比特。与高阶编码的动机类似，我们选择在所有相邻量子位上具有纠缠门的电路。因此，我们可以利用电路中的叠加和干扰效应。应用于成像数据，这可能使我们能够找到比经典 CNN 更复杂的特征。

在可训练的量子电路中，旋转门甚至整个电路设计都是在训练过程中进行优化的。在我们的实验中，电路设计是固定的，只有旋转角度是优化的。角度是随机初始化的，然后使用经典优化器迭代更新。

我们研究了两种不同的电路设计：基本纠缠层和强纠缠层。在基本纠缠层中，每个量子比特 $i$ 围绕某个旋转轴旋转一个可训练角 $θ_{i}$ 。对此，我们使用 $i$ 轴旋转。然后，应用一系列纠缠门。强纠缠层在一系列纠缠门之前围绕三个轴 $X 、 Y 和 Z$ 进行单量子比特旋转。因此，它所包含的可训练参数是基本纠缠层的三倍。我们在两种层类型中都使用 CNOT 门进行纠缠。

（3）测量和输出特征：在量子卷积层的最后，进行量子比特测量，结果存储在输出特征图中。我们使用与 [14] 中相同的测量策略：结果以 Z 为基础进行测量，特征图的数量对应于量子卷积层中的量子比特总数。测量每个量子位的期望值直接存储在输出特征图中——与经典卷积相反，经典卷积在卷积块上执行求和。输出最终不会使用激活函数进行转换。

4.实验装置

为了在经典的ML技术和QML技术之间实现公平的比较，《用于图像分类任务的量子和经典神经网络模型的比较》证明，如果构建的参数数量相似，量子增强网络可以击败经典网络。因此，我们的混合 QCCNN 和 CNN 被设计为具有相同数量级的参数总数。为此，我们从 CNN 中选择并用变分量子电路替换一个卷积层，以创建 QCCNN。经典卷积层和量子卷积层中的输入和输出特征的数量被设计为相同。这导致网络在经典和量子卷积层中具有相似数量的参数，并且在其余网络中具有完全相同数量的参数。在量子卷积层中，参数的数量由编码方案和量子电路设计决定。我们将我们的 QCCNN 应用于两个 2D 医学成像数据集，包括乳房超声和腹部 CT 扫描，以及一个由肺 CT 扫描组成的 3D 医学数据集。这些数据集和相应的架构设置如下所述。

4.1数据集

（1）MedMNIST 数据集（2D 数据集）：

（a）乳腺超声图像(BreastMNIST)：该数据集是MedMNIST数据集的一部分。对600例女性患者乳腺超声图像组成的[35]进行预处理，图像平均大小为500 × 500像素。图像显示正常、良性和恶性病变。MedMNIST将图像缩小到28 × 28的低分辨率，并将正常和良性状态合并为非恶性和恶性两类。它是一个相对较小的数据集，基于546张训练图像和78张验证图像。最后的任务是对乳腺癌进行二进制分类。这个数据集非常适合我们的研究，因为图像的低分辨率让我们避免了太长的处理时间。在数据较少的情况下，少量的训练数据点可以作为评估QCCNN性能的基础。将数据标准化为均值 0，标准差为 1。

（b）腹部CT扫描(OrganAMNIST)：该数据集同样属于MedMNIST基准。这些图像是基于肝脏肿瘤分割基准(LiTS)的3D腹部CT扫描，该基准收集了不同治疗前和治疗后肝肿瘤疾病的图像。原始图像的分辨率和图像质量各不相同。它们被裁剪成2D切片(在轴向视图中)，并在MedMNIST数据集中调整为1×28×28。任务是对11个器官进行多分类。MedMNIST中的器官标签来自另一项研究[37]的边框注释。对于我们的研究，我们分别从训练集和验证集中选取1000和600张图像作为子集。将数据标准化为均值 0，标准差为 1。

（2）肺计算机断层扫描(肺结节数据集，3D)：我们从癌症影像档案提供的LIDCIDRI数据集的CT图像获得3D数据集。该数据集包括肺癌筛查检查的肺部CT扫描。它包含由多名放射科专家注释的病变。对于病灶的选择，我们考虑至少50%的放射科医师一致同意的病灶。通过这种方式，对于 2630 个病变，获得了定位和尊严评估的边界框。每个病灶以边界框中心周围提取 6 × 6 × 6 cm3 的体积，并使用三次样条重新采样到 128 × 128 × 64 体素的常见分辨率。二进制分类任务的标签是通过要求所有放射科医师的尊严估计中值（1-5 级）大于 3 来获得的。派生数据集的示例图像如图 1 所示。

图1：3D肺结节数据集示例图像。每个示例展示了从LIDC-IDRI数据集提取的一个 $6 \times 6 \times 6 c m^{3}$ 立方体的轴向中心切片，该数据集用于训练和测试3D架构。

4.2架构

在本研究中，我们定义了两种网络架构：一种用于两个2D数据集，即BreastMNIST和OrganAMNIST，另一种用于3D肺结节数据集。这两种体系结构在网络的大小和网络中量子卷积层的位置上有所不同。

（1）2D数据集：2D数据集使用的架构如图2所示。经典网络简单地由一个经典的卷积层组成，它的滤波器大小为2 × 2，步长为2，然后是一个全连接层。它的混合量子经典双胞胎包括一个具有相同滤波器大小和步长的量子卷积层，然后是一个全连接层。量子卷积层由一个量子电路组成，即只有一个滤波器。根据选择的滤波器大小和编码方案，电路中所需的量子比特数为 4，从而产生 4 个输出特征图。为了在经典的CNN中获得相同数量的输出特征，我们使用4个滤波器对输入图像进行卷积。

图 2：用于 2D 数据集的经典和混合量子经典模型的架构示意图。

我们使用以下编码和架构为这些数据集测试了三种不同的 QCCNN 设计：

高阶编码和一个基本的纠缠层。相应的电路如图3所示。
高阶编码和强纠缠层。
阈值编码和强纠缠层。由于数据集被归一化为均值 0，我们选择阈值 $t = 0$ 。

图 3：为 2D 数据集测试的电路之一：输入图像使用高阶编码进行转换，然后是基本的纠缠层。 Hadamard 门后面的前四个 $R_{Z}$ 门表示围绕 $Z$ 轴的旋转，旋转角度为 $x_{i}$ ，其中 $x_{i}$ 表示第 $i$ 个输入。在其他 $R_{zz}$ 门处应用旋转角 $x_{i} x_{j}$ 。

基本纠缠层中的每个旋转门包含一个旋转角 $θ_{X}$ ，而强纠缠层包含三个旋转角 $θ_{X} 、 θ_{Y} 和 θ_{Z}$ 。因此，我们分别有 4 个和 12 个可训练参数用于基本和强纠缠层的实验。相比之下，对应的经典卷积层有 20 个可训练参数。后者中的参数数量由 $(k 2^{\times} c + 1) \times n$ 给出，其中 $k^{2}$ 是滤波器大小， $c$ 是输入图像中的通道数， $n$ 是滤波器数。表一总结了经典和不同量子卷积层中的参数计数。除此之外，网络中的其他 8,635 个可训练参数是从全连接层获得的。

表一：2D卷积层参数计数

（2）3D数据集：3D任务更复杂，因此需要更大的架构，如图4所示。经典网络由四个3D卷积层和一个全连接层组成。对于它的量子模拟，我们选择替换最后的卷积层，以减少量子电路中输入特性的数量。这种选择是由于混合算法的处理时间过长。因此，量子卷积层的输入不是归一化的图像数据，而是经过ReLU激活函数处理的第三个经典卷积层后得到的输出值。

图 4：用于 3D 数据集的经典和混合量子经典模型的架构示意图。

对于第一个经典卷积层，我们使用了两个滤波器，滤波器大小为5 × 5 × 5，步长为2。在第二层和第三层，我们分别使用4个和8个滤波器，滤波器大小为2 × 2 × 2，步长为1。在所有三层中，所有输入都由所有滤波器进行卷积。在每个卷积层之后，我们执行批处理规范化，并应用一个池化层，其过滤器大小和步长为2,dropout为0.2。后者用于防止过拟合。在第四个卷积层之后，我们应用批量归一化和 0.5 的 dropout。

由于第三个卷积层产生 8 个特征图，因此量子卷积层由 8 个独立的量子电路组成，每个电路只处理一个特征图。这些电路具有相同的设计，并且仅在初始权重初始化方面彼此不同。当我们在这里使用 3D 卷积时，每个电路所需的量子比特数为 $2^{3} = 8$ 。有了 8 个量子比特和 8 个特征图，量子卷积层总共产生 64 个输出特征图。

为了确保经典和混合量子经典设置之间输出特征数量相同和可训练参数数量相似，我们在经典第四层使用64个滤波器。这些滤波器被分为8组，这样每个输入特征图都由一组过滤器进行卷积。

与二维数据集使用的qccnn相比，我们在这里使用角度编码，而不是阈值编码或更高阶编码：由于我们希望在编码后保留尽可能多的详细信息，我们选择不使用阈值编码，它只将输入映射到两个状态 $∣0 ⟩ 和 ∣1 ⟩$ 。另一方面，在角度编码和高阶编码中，输入值通过相应的旋转角度进行编码，从而使更多的信息传递给量子电路。由于具有额外的纠缠特性，高阶编码是一种非常有前途的编码技术。然而，在最初的初步研究中，我们观察到这个特定数据集和网络架构的性能很差。其原因需要在未来的研究中进行调查。因此，我们决定改用角度编码。

在这项工作中，我们将 CNN 的性能与两个 QCCNN 进行了比较：

角度编码和 1 个强纠缠层。
角度编码和2个强纠缠层。相应的电路如图5所示。

图 5：为 3D 数据集测试的电路之一：输入图像通过角度编码进行转换，然后是两个强纠缠层。在另一个具有一个强纠缠层的电路中，电路由角度编码组成，然后是第一个旋转序列和 CNOT 门。

因此，我们想研究与只有一个纠缠层的设置相比，添加第二个纠缠层是否可以提高性能。对于1层和2层设置，使用8个量子比特，每个电路分别获得24和48个可训练参数。由于我们使用 8 个电路作为滤波器，因此参数总数分别为 192 和 384。作为比较，经典设置中对应的卷积层有576个可训练参数，因为在 3D 情况下，卷积层中的参数数量由 $(\frac{k ^{3} \times c}{g} + 1) \times n$ 给出，其中 $k^{3}$ 是滤波器大小， $c$ 是输入图像中的通道数， $g$ 是分组过滤器的数量， $n$ 是总过滤器的数量。表二总结了量子卷积层和经典 CNN 的相应卷积层中的可训练参数。在所有设置中，还有来自全连接层和其他三个卷积层的额外 1,894 个可训练参数。

表二：3D卷积层参数计数

5.研究结果

实验使用Pennylane和PyTorch进行。Pennylane 是一个用于构建和运行量子机器学习算法的 python 库。对于所有的实验，我们使用默认值。Pennylane的量子比特器件，它实现了基于量子比特的量子电路的简单模拟。我们采用解析计算的状态向量来获得测量结果，而不是以一定的射击次数随机计算期望值。此外，在模拟中忽略了噪声的影响。

作为性能度量，我们关注交叉熵损失的演变和训练和验证数据集上的准确性。我们总共在 5 个网络上绘制了 epoch 的平均度量值，这些网络初始化为旋转门的角度和经典权重的不同种子。误差带对应于平均指标加上或减去其标准偏差。对于 2D BreastMNIST、2D OrganAMNIST 和 3D 肺结节数据集，我们使用 Adam 优化器以 0.001 的学习率和 8、16 和 64 的批大小训练所有网络 20 个 epoch。鉴于资源密集型实验，我们没有进行任何广泛的超参数调整。

（1）2D数据集：对于两个2D数据集，高阶编码的混合QCCNN的性能相对于经典数据集具有相当好的表现，如图6和7所示的相似的最终验证准确性。

对于 BreastMNIST 数据集，虽然经典 CNN 在训练集上的平均损失比具有更高阶编码的 QCCNN 略低，但在验证集上差距是缩小的，其中经典网络和 QCCNN 获得了类似的损失基本纠缠层（图 6）。这表明具有高阶编码和基本纠缠层的混合 QCCNN 能够在这个小规模数据集上很好地泛化。此外，类似的验证损失值不一定会导致类似的验证准确度，正如与经典网络相比，具有基本纠缠层的网络的平均验证准确度更高。这表明，平均而言，虽然真实标签与模型预测值之间的距离相似，但具有基本纠缠层的 QCCNN 在标签上产生的错误数量较少。

图 6：混合模型在训练和验证准确性以及交叉熵损失方面的性能与 BreastMNIST 数据集上的经典 CNN 的性能相比。经典 CNN（蓝色）与具有基本纠缠层和高阶编码（橙色）、强纠缠层和高阶编码（绿色）或强纠缠层和阈值的混合 QCCNN 进行比较编码（红色）。

与经典 CNN 相比，在 OrganAMNIST 数据集上训练的具有更高阶编码的 QCCNN 在各个时期平均实现了更高的损失和更低的准确度，但验证指标最终收敛到相似的值，如图 7 所示。

图 7：混合模型在训练和验证精度以及交叉熵损失方面的性能与 OrganAMNIST 数据集上的经典 CNN 的性能相比。将经典 CNN（蓝色）与三个混合 QCCNN 进行比较：具有基本纠缠层和高阶编码（橙色），强纠缠层和高阶编码（绿色），或强纠缠层和高阶编码（绿色）阈值编码（红色）。

对于这两个数据集，具有阈值编码的 QCCNN 在很大程度上过拟合了训练数据，并且在验证数据集上泛化能力很差。 BreastMNIST 数据集上高度不稳定的验证准确度很可能是由于验证集较小。与 MNIST 手写数字数据集 [12]、[14] 等数据集相比，这种不令人满意的性能预计会出现在由灰色阴影组成的更复杂数据上，因为仅将阈值编码为两种状态不能正确表示特征的复杂性。

总体而言，当查看可训练参数的总数时，我们使用更少的参数达到了类似的性能，经典卷积层中有 20 个参数，而具有基本纠缠的卷积层中只有 4 个参数。这是未来研究的一个有希望的观察结果。凭借其 12 个可训练参数，具有强纠缠层的 QCCNN 与在两个 2D 数据集上具有基本纠缠层的 QCCNN 相比，其表现出人意料地稍差。这种影响也将在未来的工作中进行更深入的研究。

我们还注意到，对于BreastMNIST数据集，经典CNN和QCCNN的观测度量值的高方差表明，网络对权值初始化有很强的依赖性。这种影响可能来自小规模数据集。方差曲线的大量重叠也表明经典网络和混合网络的性能确实很接近。对于具有更多数据的 OrganAMNIST 数据集，我们观察到与之前的数据集相比，QCCNN 的指标方差（阈值编码除外）具有相同的数量级，但在经典 CNN 上显著降低。

（2）3D数据集：肺结节数据集的训练和验证曲线如图8所示。在第三个epoch之后，经典CNN和两层强纠缠的QCCNN得到了非常相似的训练精度值。无论是训练损失还是验证损失和准确性，经典CNN都取得了最好的性能。然而，考虑到相对较宽的方差带，具有两个强纠缠层的经典 CNN 和 QCCNN 通常会导致相似的性能。与它们相比，只有一个强纠缠层的 QCCNN 在训练过程中的表现明显更差。对于验证数据集，获得了与具有两个强纠缠层的 QCCNN 相似的精度。然而，由此产生的验证损失比其他两种设置大得多。

图 8：混合 QCCNN 模型与经典 CNN 模型在 3D 肺结节数据集上的训练和验证精度以及交叉熵损失的性能比较。经典 CNN（蓝色）与使用角度编码和强纠缠层（橙色）或两个强纠缠层（绿色）的 QCCNN 进行比较。

6.结论

总之，我们在 2D 和 3D 放射图像分类任务上使用 QCCNN 和经典 CNN 获得了相当好的训练结果。

对于 2D乳腺超声图像和 2D腹部CT图像，采用高阶编码特征图和由基本纠缠层组成的变分电路的QCCNN表现出与经典CNN相似的性能，但仍然存在较大的不确定性，表现为较大的训练和验证方差带。另一种采用变分映射的QCCNN，其可训练参数是基本纠缠层的三倍，其性能较差。在未来的研究中，将系统地研究量子电路的设计，以了解哪一组门的性能更好。在[8]所承诺的有限数据存在的情况下，QCCNN在训练和泛化能力上比经典的CNNs有明显的优势，这在本文中还没有观察到。尽管如此，我们的结果是有希望的，因为在量子卷积层中的参数数量低于经典卷积层。在未来的工作中，我们将研究学习能力对参数数量和使用的量子卷积滤波器数量的依赖性。

对于3D肺结节数据集，我们展示了一个带有角度编码的量子卷积层和两个强纠缠层，我们可以获得与经典CNN类似的性能。在未来的研究中，应该研究是否可以构建一个更合适的QCCNN来进一步提高性能，例如通过不同的电路设计。特别是考虑到实际应用中需要高分辨率的医疗数据，需要研究哪种编码策略最适合3D数据。将量子卷积层置于一个或多个经典卷积之后的QCCNN编码策略也有待进一步研究。

原文链接：https://arxiv.org/pdf/2204.12390.pdf

---煤油灯科技victorlamp.com翻译整理---

上一篇：TinyML：AI 的下一个技术方向在边缘侧实现超低功耗机器学习

下一篇：MiGriBot：能够对亚毫米级物体进行取放操作的微型机器人

你可能也喜欢这些文章