肺癌是威胁人类生命的常见恶性肿瘤之一，每年有数百万人被确诊或死于肺癌。据统计，每年死于肺癌的患者约占全球癌症死亡人数的五分之一，超过乳腺癌、结肠癌和前列腺癌死亡人数的总和。根据中国国家癌症中心提供的数据，到2025年，中国的肺癌患者将会达到100万人，成为世界上最大的“肺癌大国”。早期肺癌一般没有明显临床症状，但可以通过有经验的医生观察胸部计算机断层扫描(computer tomography，CT)中肺结节的位置、范围和形状来进行诊断和治疗。在肺分割过程中，去除会干扰病变分析的区域，例如气管、胸骨、心包和脂肪，仅保留肺实质和病变区域，可以更好地帮助找到肺结节。因此，肺实质的精确提取在肺相关疾病的分析中起着至关重要的作用。

肺分割领域的大多数方法是基于传统的图像处理算法。其中，阈值法是实现图像分割的最常用方法之一。然而，肺中有许多部位的灰度值与体外相似，仅通过阈值法不可能获得更好的效果，因此出现了许多结合阈值法和其他方法的改进方法。袁克虹和向兰茜(2011)提出了一种自动分割肺实质的方法，包括阈值法和边界追踪法，同时还利用基于计算局部2维凸包的算法对边缘进行修正。Shojaii等人(2005)使用分水岭变换找到肺部边界，然后使用滚球滤波器平滑轮廓，在处理形态不规则的肺部图像方面表现良好。

与传统的肺分割方法不同，基于深度卷积网络的算法也已达到了最优性能，但不会依赖于手工设计的特征提取，还可以广泛应用于各种CAD(computer-aided diagnosis)系统。随着端到端的全卷积网络(fully convolution networks，FCN)(Long等，2015)结构的出现，Ronneberger等人(2015)提出了用于生物医学图像分割的U型网络(U-Net)架构。该网络是具有编码路径和解码路径的对称结构。在两个路径之间，有一些跳跃层可以连接相应的特征，从而可以完成像素级的分割。Skourt等人(2018)将此网络应用于肺分割并获得较好的结果。Oktay等人(2018)在U-Net网络中添加注意力机制，增强了对特定任务有用的前景像素的敏感度，得到了令人满意的结果。Zhang等人(2020)将Inception模块和密集连接加入到U-Net网络。尽管分割结果表现好，但是由于网络结构太过于复杂，导致计算量负担大，训练缓慢。

受以上研究工作的启发，本文提出了一种基于深度卷积网络的肺分割网络，该网络是具有编码—解码模式的算法，结构与U-Net网络相似。其工作主要有以下几个方面的贡献：

1) 通过编码路径中引入注意力机制增加关键区域的权重，以突出显著特征，抑制输入图像中不相关的区域，从而提高分割精度。

2) 基于U-Net深度网络架构，在网络中间添加了一个密集空洞卷积(dense atrous convolution，DAC)模块，该模块集合了Inception模块和残差网络与空洞卷积的优点，在避免梯度爆炸和消失的同时获得了多尺度的特征信息。

3) 为了解决采样过程中的特征丢失问题，重新设计改进了上/下采样模块，利用Inception结构加宽网络。

在卷积神经网络中，随着卷积核的尺寸增大，相应的感受野会变得更大。此外，学习参数数目也将增加，造成训练过程中的数据过拟合。为了解决这些问题，Yu和Koltun(2016)提出了空洞卷积(atrous convolution)，可以在不损失分辨率的情况下扩大特征图的感受野。这是一种针对密集预测任务的特殊设计(Chen等，2018)。

空洞卷积也称为扩张卷积。与常规卷积不同，空洞卷积是具有扩张率(dilation rate)的卷积。当扩张率等于1时，空洞卷积可以视为常规卷积；但是当扩张率大于1时，卷积核会对特征图以扩张率减1进行间隔采样。感受野大小$F$计算为

$ F{\rm{ }} = (r - 1) \times (k - 1) + {\rm{ }}k $

(1)

式中，$r$和$k$分别代表扩张率和卷积核大小。当卷积核大小为3时，不同扩张率的空洞卷积对比如图 1所示。

在卷积核大小不变的情况下，相比于常规卷积，空洞卷积不需要学习更多的参数且不会造成信息损失，就能获得更大的感受野，这样有利于增强图像分割像素点分类的准确性。

Szegedy等人(2015)将Inception模块应用于GoogLeNet网络，并在分类和检测竞争中获得了最佳分数。此后，从Inception-v2、v3(Ioffe和Szegedy，2015；Szegedy等，2016)到v4(Szegedy等，2017)，Inception网络不断得到改进和创新，以获得更好的性能。

Inception网络的目的是解决卷积层堆叠、避免冗余计算问题，同时还能使网络更深、更广。其中不同尺度的卷积核在增强网络的泛化能力和结构表达能力的同时，也可以为网络模型增加更多的非线性，极大地提高了卷积神经网络学习特征的能力。通常，一个Inception网络是由多个Inception模块串联组成的。

如图 2所示，单独的Inception模块包含3个不同大小的卷积核和一个最大池化层，并在每一层使用一个1×1卷积进行降维，提高计算效率。将这4个分支得到的特征图拼接起来，传送至下一个Inception模块，可使该网络获得不同的感受野以增加网络宽度。

对于卷积神经网络，网络的层次越深，训练难度越大。因为这不仅会导致网络的退化，而且还容易造成梯度消失和梯度爆炸。针对此问题，He等人(2016)提出了残差网络，通过在卷积神经网络中引入快捷连接(shortcut connection)加强特征的传递。残差块是由常规卷积每两层增加一个捷径构成的，而数个残差块连在一起便组成残差网络。如图 3所示，$\boldsymbol{x}$是网络的输入，$\boldsymbol{F}(\boldsymbol{x})$表示经过两个卷积层操作的输出，在送入下一层之前将通过快捷连接的映射与原始输出进行叠加$\boldsymbol{F}(\boldsymbol{x})+\boldsymbol{x}$。以这样的方式减轻深层网络训练的难度，从而兼顾了网络性能的提升。

本文网络架构如图 4所示，其中包含一条编码路径(左侧)和一条解码路径(右侧)。编码路径由8个卷积层和4个下采样层组成，旨在通过逐渐减小特征图的空间尺寸来学习更多的语义信息。相比之下，具有注意力机制的解码路径是通过使用反卷积和上采样操作来恢复特征图的空间尺寸。同时，在两条路径之间添加密集空洞卷积模块，充分提取上下文的有效信息。

深度学习领域中的注意力机制(attention mechanism)(Luong等，2015)本质上类似于人类的视觉选择性注意力机制，往往关注于已收集的所有信息的某些特定部分。考虑到该机制在辨别和聚焦方面的优势，注意力机制已广泛应用于各种人工智能领域。

在编码—解码模式的标准U-Net网络中，尽管在浅层网络有更多的空间信息，但是能学习到的特征并没有深层的丰富。此外，在利用级联操作进行特征融合时相似的浅层特征不应该被重复提取，否则将会导致计算负担和模型参数冗余。因此，本文将注意力机制应用于解码路径，获取更高层次的特征信息，增加目标区域的权重避免背景像素的干扰，从而提高模型的学习能力。注意力机制模块内部结构如图 5所示。

该模块有两个输入，一个是上采样特征$\boldsymbol{g}$($\boldsymbol{F}_{g}×\boldsymbol{H}_{g}×$$\boldsymbol{W}_{g}×\boldsymbol{D}_{g})$，另一个是通过跳跃连接传输的具有相同分辨率的编码特征$\boldsymbol{x}^l$$(\boldsymbol{F}_{l}×$$\boldsymbol{H}_{x}×\boldsymbol{W}_{x}×$$\boldsymbol{D}_{x})$，其中上采样特征$\boldsymbol{g}$可以视为增强$\boldsymbol{x}^l$学习能力的门控信号(gating signal)。两个输入首先经过1×1×1的卷

积运算后，分别获得$\mathit{\boldsymbol{W}}_g^{\rm{T}}{\mathit{\boldsymbol{g}}_i}和\mathit{\boldsymbol{W}}_x^{\rm{T}}\mathit{\boldsymbol{x}}_i^l$。随后，对两个结果相加再进行ReLU(rectified linear unit) $\left({{\sigma _1}\left({\mathit{\boldsymbol{x}}_i^l} \right) = \max \left({0, \mathit{\boldsymbol{x}}_i^l} \right)} \right)$激活。融合后的特征将再次进行卷积运算，并经过s形激活函数Sigmoid($σ_2$)，得到注意力系数$α$，即

$ q_{{\rm{att }}}^l = {\mathit{\boldsymbol{\psi }}^{\rm{T}}}\left({{\mathit{\boldsymbol{\sigma }}_1}\left({\mathit{\boldsymbol{W}}_x^{\rm{T}}\mathit{\boldsymbol{x}}_i^l + \mathit{\boldsymbol{W}}_g^{\rm{T}}{\mathit{\boldsymbol{g}}_i} + {\mathit{\boldsymbol{b}}_g}} \right)} \right) + {\mathit{\boldsymbol{b}}_\psi } $

(2)

$ \alpha = {\sigma _2}\left({q_{{\rm{att}}}^l\left({\mathit{\boldsymbol{x}}_i^l, {\mathit{\boldsymbol{g}}_i}} \right)} \right) $

(3)

式中，${\mathit{\boldsymbol{b}}_g} \in \mathit{\boldsymbol{R}}, {\mathit{\boldsymbol{b}}_\psi } = \frac{1}{{1 + \exp \left({ - {\mathit{\boldsymbol{x}}_i}} \right)}}$代表偏差项，$\psi$代表 1×1×1大小的卷积核。最后，用编码特征乘以注意力系数$α$，逐像素合并输出$\boldsymbol{x}^l$。

U-Net网络及其变体具有一些共同的局限性：一方面，通过连续的池化和卷积步长操作来降低特征分辨率，往往会影响到需要非常详细空间信息的预测任务，例如本文中的肺部图像分割；另一方面，如果通过扩大卷积核的大小来增大感受野，模型参数会相应增加，这样也会不利于模型的训练。考虑到以上这些情况，本文在网络中间添加了一个密集空洞卷积(DAC)(Gu等，2019)模块。

尽管看起来像一个密集连接块(densely connected block)，实际上该模块的结构集结了Inception、残差网络和空洞卷积，并将这些方法的优点融合起来。如图 6所示，DAC模块有4个级联分支，并且每个分支中空洞卷积的数量逐个增加，对应的感受野分别是3，7，9，19。同时每个分支最后都使用一个1×1卷积用于ReLU(Glorot等，2011)激活。此外，该模块也引入残差网络中的快捷连接将原始特征与其他特征融合在一起，避免了梯度的爆炸和消失。通过结合不同膨胀率的空洞卷积，DAC块能够充分提取不同尺度的特征。

在标准的U-Net框架中，最大池化和上采样操作分别用于减少和增加特征图的分辨率，但训练过程中可能会导致特征丢失和降低精度的问题。因此，本文对上/下采样模块进行改进，避免特征的丢失。

如图 7所示，两个模块具有相同的结构，只是下采样模块中的最大池化层和卷积层在上采样模块中被替换成了上采样层和转置卷积层。该结构由多个不同尺度的卷积核并行级联构成，这可以看做是简单的Inception结构，可以感知不同范围和尺度的局部特征，从而提高网络的学习能力。

损失函数可以用于评估预测结果与真实结果之间的差异。当损失函数较小时，对应模型的鲁棒性相对较强。由于肺实质分割问题属于像素分割，因此，将常用的二分类交叉熵函数(binary cross entropy，BCE)损失函数替换为Dice损失函数(Milletari等，2016)。

Dice相似性系数($C_{\rm{dice}}$)是计算两个样本之间重叠区域的度量，其范围在0~1之间，1表示完全重叠，0代表没有重叠区域。Dice损失函数计算为

$ Los{s_{{\rm{dice }}}} = 1 - {C_{{\rm{dice }}}} = 1 - \frac{{2\sum\limits_i^N {{\mathit{\boldsymbol{p}}_i}} {\mathit{\boldsymbol{g}}_i}}}{{\sum\limits_i^N {\mathit{\boldsymbol{p}}_i^2} + \sum\limits_i^N {\mathit{\boldsymbol{g}}_i^2} }} $

(4)

式中，$N$表示像素个数，$\boldsymbol{g}_i∈\{0, 1\}$表示像素$i$是否为前景的标签，而$\boldsymbol{p}_i∈(0, 1)$则表示softmax层输出像素$i$的预测结果。

本文所使用的数据集来自2016年的肺结节分析(lung nodule analysis，LUNA)竞赛。该竞赛的目的是检测肺部CT图像中的结节并降低假阳性。为了方便参赛者更好地找到肺部区域，竞赛同时提供了分割数据集(https://www.kaggle.com/kmader/finding-lungs-in-ct-data/data)，该数据集包含了手动分割肺部的2维和3维图像。本文只使用2维的CT图像，其中包含267幅图像及其相应的标签图像。同时，将原始图像的尺寸调整为256×256像素，其中80 % 的样本用于训练和验证，其余的用于测试。

实验使用两块NVIDIA GeForce RTX 2080Ti GPU显卡，其中每个GPU均有11 GB的内存。在实验阶段，深度学习框架采用PyTorch，模型训练120个批次。此外，学习率设置为0.000 1并选择Adam(Kingma和Ba，2015)作为优化算法。同时训练和测试的批次大小设置为8，这意味着在每个批次中将会有8个样本作为输入被送入到网络中。

采用4个常用分割评价指标评估该方法的分割结果。这些指标包括Dice相似性系数($DSC$)、交并比($IoU$)、敏感度($SE$)和准确性($ACC$)。计算公式分别为

$ DSC = \frac{{2|\mathit{\boldsymbol{GT}} \cap \mathit{\boldsymbol{SR}}|}}{{|\mathit{\boldsymbol{GT}}| + |\mathit{\boldsymbol{SR}}|}} $

(5)

$ IoU = \frac{{|\mathit{\boldsymbol{GT}} \cap \mathit{\boldsymbol{SR}}|}}{{|\mathit{\boldsymbol{GT}} \cup \mathit{\boldsymbol{SR}}|}} $

(6)

$ SE = \frac{{TP}}{{TP + FN}} $

(7)

$ ACC = \frac{{TP + TN}}{{TP + TN + FP + FN}} $

(8)

式中，$\boldsymbol{GT}$代表由专家标注的标签，$\boldsymbol{SR}$代表本文模型得到的预测结果。$TP$是被正确分类为肺实质的肺部像素数量；$TN$是被正确分类为背景的背景像素数量。$FP$是被错误分类为肺实质的背景像素数量；$FN$是被错误分类为背景的肺部像素数量。

对于医学图像分割，$DSC$和$IoU$被广泛认为是其重要评价指标。$ACC$和$SE$可以帮助确保评估模型的鲁棒性。

为充分探究、分析本文提出的多个模块对肺分割任务的有效性，对注意力机制、DAC和改进的上/下采样模块进行了消融实验，对比改进前后的模型分割性能。消融实验结果如表 1所示，从实验的比较结果中可以看出，加入注意力机制与DAC模块对模型性能提升最大。本文将DAC模块应用到该模型，能够进一步提取全局信息，保证了分割的完整性。而采用注意力机制的解码模式可以达到增强目标特征并且抑制背景的目的，有助于提高分割质量。尽管改进后的上/下采样模块对模型的贡献比不上注意力机制和DAC，但也在一定程度上促进了模型的分割效果。

为了验证本文网络的有效性，将所提出的模型与其他最新分割网络进行了一些对比研究。为使实验更有说服力，FCN-8 s, U-Net, UNet+ +(Zhou等，2018), ResU-Net和CE-Net(context encoder network)(Gu等，2019)的实验采用与本文模型相同的优化算法、损失函数和其他初始实验参数。比较结果如表 2所示。

实验中，本文算法的Dice相似性系数(DSC)为0.985 9，比表 2中性能第2的网络—CE-Net提高了0.443 %；而在$IoU$、$ACC$和$SE$方面，本文算法的结果均高于CE-Net网络，分别提高了0.272 %，0.512 %和0.374 %。由此可以得出结论，本文网络的分割有效性优于其他分割网络。

各模型的训练损失曲线及其对应的验证精度曲线如图 8所示。在确保实验一致性的情况下，即使收敛速度不是最快，但该网络的鲁棒性也相对较强。除此之外，为了直观地说明不同算法的准确性，图 9给出了4种分割结果。

图 9第1行，FCN-8 s网络的分割效果是最差的。而对于U-Net，UNet+ +和ResU-Net网络，尽管网络中具有跳跃连接，但仍有一些像素被错误地分类。与表现较好的CE-Net网络相比，本文模型的预测结果更接近专家的标签。这里可以说明注意力机制是一个有助于模型增强目标区域学习能力的促成因素，从而提高了分割效率。

图 9第2行中，除了本文算法和CE-Net网络，其他网络对于支气管和肺实质的许多像素未能进行有效分类。这意味着通过使用DAC模块的网络，可以捕获更多高级的特征，学习到更多丰富的信息。

肺部分割的棘手问题是当左右肺之间的距离太近时，分割会出现粘连现象，如图 9中第3行所示。而本文的网络很好地解决了这一问题，表明本文方法在捕获更广泛和更深的语义特征方面比其他方法具有更好的性能。

而令人失望的是，本文模型与实验中比较的所有模型一样，在模糊边界上的分割效果不佳，结果都不尽人意，如图 9中第4行所示。

从分割结果来看，本文方法具有有效分割肺实质区域的稳定网络架构，其性能优于其他分割网络且鲁棒性较强。

本文提出一种融合注意力机制与密集空洞卷积的肺部分割网络。该网络具有编码—解码模式，通过在网络的解码路径部分引入注意力机制使得目标区域能够得到有效的输出, 从而提高了分割精度，同时在网络中间添加密集空洞卷积模块使得网络可以充分提取上下文的多尺度信息。此外，改进后的上/下采样模块也可以在避免特征丢失的情况下有效地加深网络的深度，使该网络能够学习到更多的图像特征。一系列的对比实验结果表明，本文提出的模型比其他常见的分割网络更适合进行肺部分割的应用。在未来的研究中，该网络可以进一步得到改进和优化，使其同样可以应用于3维CT图像。除此之外，该模型仅在肺分割任务上得到验证，尚未应用于其他2维医学图像分割任务，后续工作可能会将其扩展到不同的医学图像分割任务，使该网络更具通用性。