噪声标签是指标注错误的标签，通常会降低深度神经网络的泛化性(Zhang等，2017；Arpit等，2017)。为避免噪声标签对深度神经网络的负面影响，针对噪声标签数据库的有监督分类成为一个重要研究方向(Algan和Ulusoy，2021a)。Wang等人(2019)提出对称交叉熵学习的方法，添加反向交叉熵作为损失函数，避免了仅使用交叉熵作为损失函数造成深度网络过度拟合噪声标签样本影响泛化。Xu等人(2019)提出一种新型的信息理论损失函数，这是第一个证明对与实例无关的标签噪声具有鲁棒性的损失函数，无论噪声模式如何，均可直接应用于任何现有的分类神经网络，而无需辅助信息。Liu等人(2020)提出利用半监督学习技术产生模型输出的目标概率，并设计一个正则化项防止深度网络记忆噪声标签。Algan和Ulusoy(2021b)提出在有噪声标签的情况下利用元学习训练深度网络。首先根据元目标寻求最佳的标签分布，即最小化小元数据集的损失；然后利用元软标签生成框架，生成预测的软标签训练网络；最后在训练过程中不断重复上述两个阶段，从而避免噪声标签的负面影响。Wang等人(2019)、Xu等人(2019)、Liu等人(2020)、Algan和Ulusoy(2021b)利用设计鲁棒性损失函数、正则化器或者利用元学习的方法避免噪声标签的负面影响，所提方法没有通过建立噪声模型估计噪声结构。

深度学习模型一开始会记忆简单样本，随着训练次数增加逐渐拟合到困难样本(Arpit等，2017)。当存在噪声样本时，深度学习网络甚至会记忆这些错误的标签从而影响泛化(Zhang等，2017)。Han等人(2018)、Guo等人(2018)和Li等人(2020)从含有噪声标签的数据库中选择出干净样本，并用其训练深度学习网络，从而隐性地建立噪声模型避免噪声标签的负面影响。Han等人(2018)提出一种互相教学的策略训练一个鲁棒性的深度学习网络。该策略同时训练两个深度卷积网络，训练前期一般拟合的是简单样本，两个网络互相选择损失值小的样本给对方进行训练，从而防止拟合到噪声标签样本。Guo等人(2018)提出在大规模弱监督的网络图像上训练深度神经网络，利用课程学习，先使模型从简单样本开始学习，逐渐进阶到复杂样本和知识，从而提高模型的泛化能力并降低噪声标签的负面影响。Li等人(2020)提出DivideMix框架，利用半监督学习和干净样本选择，避免噪声标签负面影响。首先用混合模型对每个样本损失分布进行建模，然后将训练数据动态地划分为具有干净样本的标签集和具有噪声样本的无标签集，接着以半监督的方式在有标签和无标签数据上训练模型。为了避免偏差，同时训练了两个网络，每个网络都使用另一个网络的数据集划分。最后在半监督训练阶段，通过不断对有标签和无标签样本分别进行标签的互相精细和互相猜测来改进动态划分策略。陈庆强等人(2019)提出一种基于数据分布的标签噪声过滤方法。首先对于数据集中的每一个样本，根据其近邻内样本的分布，将其及邻域样本形成的区域划分为高密度区域和低密度区域，然后针对不同的区域采用不同的噪声过滤规则进行过滤。张增辉等人(2021)提出一种基于标签置信度分布的局部概率抽样方法进行标签噪声过滤。首先利用随机森林分类器对样本的标签进行投票，从而获取每个样本的标签置信度；然后根据标签置信度的大小，将样本划分为易识别样本和难识别样本；最后分别采用不同的过滤策略对样本进行过滤。

若只选择干净样本进行学习，未能充分利用全部数据。Shu等人(2019)、Wang等人(2020)、唐轲和郎丛妍(2021)利用样本重要性加权策略，即首先设计一个从训练损失到样本权重的加权函数映射，然后利用该加权函数对不同样本的重要性加权并影响分类器的输出，从而避免深度网络过度拟合噪声标签样本。Shu等人(2019)提出利用具有一个隐藏层的多层感知器作为加权函数，该加权函数能直接从数据中自适应地学习样本重要性权重。Wang等人(2020)提出了一种自校正网络，通过排名正则化对每个训练样本的重要性进行加权，防止深度网络过度拟合噪声标签的人脸表情图像，并重新标注噪声标签样本，从而提高深度网络泛化能力。为解决行人再识别的噪声标签问题，唐轲和郎丛妍(2021)结合噪声、非噪声数据训练差异化特征，提出一种噪声标签自适应的行人再识别方法，不需要使用额外的验证集以及噪声比例、类型等先验信息，完成对噪声数据的筛选过滤。此外，该方法可以自适应地学习噪声样本权重，进一步降低噪声影响。

无论是Han等人(2018)方法中的样本选择，还是Wang等人(2020)方法中的样本重要性加权，其有效的共性在于，计算深度神经网络输出损失值时，简单样本对应的损失值一般小于噪声标签样本对应的损失值。该假定的不足在于，困难样本对应的损失值一般大于简单样本对应的损失值。因此，将深度神经网络输出的损失值作为判断噪声标签样本依据，不利于困难样本的学习。判断噪声标签样本能力更强的深度网络可以帮助区分噪声标签样本(Jiang等，2020)，且自训练的方式有助于获得噪声标签样本判断能力更强的深度网络(Xie等，2020)。为此，本文提出一种自纠正噪声标签方法，能稳定选择干净样本学习，并重新标注噪声标签样本，从而充分利用全部数据。

人脸美丽预测任务更易受到噪声标签影响。首先，客观评价标准不明确，在进行人工标签标注时容易受标注人员的影响，从而产生标注错误，即容易产生更多噪声标签。其次，受人力、物力等客观因素影响，人脸美丽数据库包含的标签数据样本有限，从而使数据在表达差异性特征能力上存在不足，进而更易受噪声标签的干扰。最后，不同类别人脸美丽等级的人脸图像之间特征相似、抽象且难以提取，故深度神经网络更难以区分噪声标签和真实标签进而降低泛化能力。因此，本文使用自纠正噪声标签方法对人脸美丽进行预测。

本文提出的自纠正噪声标签方法包括自训练教师模型机制和重标签再训练机制。自训练教师模型机制首先利用Han等人(2018)方法中的样本选择方法，自训练出噪声标签样本判断能力更强的模型，以此作为教师模型。然后，借助教师模型的噪声标签样本判断能力帮助学生模型学习，直至训练出噪声标签判断能力更强的学生模型，并将其作为新的教师模型不断重复该过程。最后，重标签再训练机制利用Wang等人(2020)方法中的重标签机制，重新标注潜在的噪声标签并引入自训练教师模型机制再训练。

本文主要贡献如下：1)首次提出将人脸美丽预测问题理解成噪声标签问题，并用实验表明了该假设成立。2)提出一种自纠正噪声标签方法，能一定程度降低噪声标签对人脸美丽深度卷积预测网络的负面影响。3)在人工合成噪声标签LSFBD(large scale facial beauty database)数据库、原始LSFBD(甘俊英等，2019)数据库和人工合成噪声标签SCUT-FBP5500数据库、原始SCUT-FBP5500数据库(Liang等，2018)上，验证了自纠正噪声标签方法的有效性。对比实验表明，所提方法每个环节皆能降低噪声标签对人脸美丽深度网络的影响。

为了降低噪声标签对深度神经网络的负面影响，本文提出了基于深度卷积神经网络的自纠正噪声标签方法，包括自训练教师模型机制和重标签再训练机制。图 1为自纠正噪声标签方法框图。首先，同时初始化两个结构相同的深度卷积神经网络，并将泛化能力较强的网络作为教师模型，另一个网络作为学生模型。初始化时可任意指定教师模型。其次，在输入端同时输入小批次训练数据给教师、学生模型。其中，教师模型自身不进行反向传播训练，仅用于选择干净标签样本序号给学生模型；学生模型接收该样本序号并找到对应样本和标签进行反向传播训练，直至学生模型泛化能力超过教师模型。此时，学生模型共享最优参数给教师模型，即原学生模型成为新的教师模型，称之为自训练教师模型机制。经反复训练后，将小批次数据输入教师模型中，计算其每类预测概率值；将其输入到重标签模块中进行标签纠正。最后，利用纠正后的数据再反复执行自训练教师模型机制，并将教师模型作为最终模型输出。

在有噪声标签的数据中进行深度神经网络的训练，一个很重要的思路就是进行干净样本选择。Han等人(2018)在每批次数据完成训练后，直接利用深度神经网络进行干净样本判断与选择。本文将自训练出泛化能力相对好的深度神经网络作为教师模型，并仅利用教师模型进行样本选择，从而避免了每次训练完成后深度神经网络泛化性能波动造成的误判。设N幅小批次输入人脸图像及其对应的人脸美丽等级标签表示为(x, y)={(x_i, y_i), …, (x_N, y_N)}，其中，x∈R^N×3×τ×υ表示共N幅人脸图像，3层颜色通道，每幅人脸图像的分辨率为τ×υ，y∈R^N为其对应的标签，x_i为第i幅人脸图像，y_i∈{0, …, c－1}为第i幅人脸图像的人脸美丽等级标签，c为人脸美丽等级标签总等级数；α∈[0, 1]为噪声控制率，即超参数。

首先，同时初始化两个结构相同的深度卷积神经网络，选定其中一个网络作为教师模型，另一个为学生模型。在训练时，将每个小批次人脸图像同时输入到教师、学生模型中，经正向传播并先计算教师模型损失值L_t={l₁^t, l₂^t, …, l_N^t}。接着，将这N个损失值从低到高进行排序，并记录其中N×(1－α)个低损失值对应的样本序号。然后，将样本序号发送给学生模型，学生模型则从自身正向传播计算的损失值L_s={l₁^s, l₂^s, …, l_N^s}中，挑选出接收样本序号对应的损失L′_s={l₁^s′, l₂^s′, …, l_N×(1-α)^s′}。最后，对学生模型进行反向传播更新参数，不断循环该过程直至出现验证准确率更高的学生模型，保存其参数作为新的教师模型。图 2为自训练教师模型机制示意图。

在自训练教师模型机制中，通过限制噪声标签样本的学习可减少噪声标签的影响。由于人脸美丽数据库仍存在标签数据样本不足的问题，为充分利用所有可用数据，本文融合Wang等人(2020)方法中的噪声标签纠正方法纠正噪声标签。

如果每幅人脸图像经教师模型预测的最大输出概率高于标签对应输出概率一定阈值，则认为该样本标签应该纠正，即

$ \bar{y}= \begin{cases}y_{\mathrm{m}} & P_{\mathrm{m}}-P_{\mathrm{t}}>\delta \\ y & \text { 其他 }\end{cases} $

(1)

式中，P_m为预测输出的最大概率，P_t为标签对应的预测输出概率，δ为阈值间隔；y_m为最大输出概率对应的标签，y为原标签；y为标签纠正后的伪标签；所有的预测概率皆为经softmax分类器输出的概率。

本文提出的自纠正噪声标签算法的具体步骤如下：

1) 设学生和教师模型参数分别为ω_s和ω_t，学习率为γ，训练次数为T，纠正前训练总次数为T_n，最大训练总次数为T_m，小批次次数为k_m，小批次样本数为N，学生和教师模型验证准确率分别为A_s和A_t，测试准确率为A，学生模型为ϕ，教师模型为ψ，训练集为D。

2) for T =1, 2, …, T_n－1执行：

打乱训练集D中样本顺序；

for k =1, …, k_m执行：

从训练集D中采样小批次样本D；

$ \overline{\boldsymbol{D}}_{\mathrm{s}}=\arg \min\limits_{N \times(1-\alpha)} \boldsymbol{L}_{\mathrm{t}}(\psi, \overline{\boldsymbol{D}}) $//教师模型采样N×(1－α) 个小损失样本；

$ \omega_{\mathrm{s}}=\omega_{\mathrm{s}}-\gamma \boldsymbol{\nabla L}_{\mathrm{s}}\left(\phi, \overline{\boldsymbol{D}}_{\mathrm{s}}\right) $//学生模型通过D_s更新ω_s；

end for。

在验证集上验证学生模型预测准确率，记为A_s；

如果A_s＞A_t执行:

ω_t=ω_s, A_t = A_s且保存ω_t, A_t；

3) end for。

4) 如果T = T_n执行：

读取ω_t作为教师模型；

for k =1, …, k_m执行：

从训练集D中采样小批次样本D；

P_m, P_t=ψ(D) //正向传播获得预测概率

利用式(1)纠正噪声标签，更新训练集为D′；

end for。

5) for T = T_n+1, T_n+2, …, T_m执行：

打乱训练集D′中样本顺序；

重复步骤2)中第3行及以下过程直至步骤3)；

6) end for。

7) 在测试集测试教师模型预测准确率，记为A。

8) 输出ω_t, A。

实验在GeForce RTX2080tiGPU, Intel i7-9800X CPU和62.5 GB内存的计算机上进行，使用PyTorch框架；采用Albumentations工具进行一系列数据处理和增强操作。首先，将数据按照6∶2 ∶2的比例划分为训练集、验证集和测试集，同时对训练集图像进行随机亮度、对比度、水平翻转、垂直翻转和随机仿射变换(移动、缩放)。然后，将在ImageNet数据库上预训练过的ResNet-18(He等，2016)作为骨干深度神经网络，使用交叉熵作为损失函数，并以此作为基准方法。最后，使用动量为9×10^-1的随机梯度下降优化器，配置权重衰减系数为1×10^-2。使用余弦学习率(He等，2019)，并初始化学习率为1×10^-2，批次大小设置为40。

LSFBD(甘俊英等，2019)数据库由五邑大学项目组建立，共20 000幅带标签的人脸图像(男女各10 000幅)和80 000幅无标签人脸图像，分辨率为144×144像素，分为0、1、2、3、4共5个类别，分别对应极不吸引人、不吸引人、平均、吸引人和最吸引人。本文着重于女性吸引力预测，仅使用10 000幅女性人脸图像验证方法的有效性。其中，类别0有948幅、类别1有1 148幅、类别2有3 846幅、类别3有2 718幅、类别4有1 340幅，如图 3所示。

SCUT-FBP5500(Liang等，2018)数据库由华南理工大学建立，共有5 500幅正面人脸图像，具有不同属性(男性或女性、亚洲人或白种人、年龄)和不同标签(人脸特征点、范围1~5的美丽分数、美丽分数分布)，可实现不同人脸美丽预测范式的计算模型。因为该数据库是由60个志愿者对所有图像评分为5种人脸美丽等级，故本文将同一幅图像评分相同等级的志愿者人数最多的评分等级作为最终评分等级。

本文分别使用LSFBD和SCUT-FBP5500数据库10%、20%、30%训练集噪声标签比率，探索自纠正噪声标签方法的有效性。从每一类人脸美丽等级中选择10%、20%、30%的训练数据，并随机改变它们的标签。表 1为自纠正噪声标签方法与基准方法(没有考虑噪声标签的传统卷积神经网络训练)和其他方法的比较结果。本文执行人脸美丽预测五分类任务，以分类准确率(classification accuracy，CA)作为评价指标，表 1中结果皆为5次实验结果的平均值。可以看出，在噪声率为30%、20%、10%时，本文方法在LSFBD数据库上分别超出基准方法5.8%、4.1%、3.7%；在SCUT-FBP5500数据库上分别超出基准方法3.1%、2.8%、2.5%。显然，随着噪声率增加，本文方法的效果更加明显。Han等人(2018)和Wang等人(2020)的方法皆能超过基准方法，但仍逊色于本文方法。

为进一步验证自纠正噪声标签方法的有效性，在原始LSFBD数据库和原始SCUT-FBP5500数据库(不进行人工合成噪声标签)上进行实验。假定在构建LSFBD数据库和SCUT-FBP5500数据库时，会不可避免地产生人为因素造成的噪声标签。虽然在验证集和测试集中仍可能存在少量噪声标签，但由于训练集数据样本数量大于验证集、测试集数量，即训练数据样本中存在的噪声标签数量大于验证集、测试集中噪声标签数量，故在原始LSFBD数据库和原始SCUT-FBP5500数据库实验中，本文方法仍然取得了最好的实验效果。如表 2所示，本文方法在原始LSFBD数据库和原始SCUT-FBP5500数据库上预测准确率分别超出基准方法2.7%和1.2%。Han等人(2018)和Wang等人(2020)的方法皆能略高于基线方法，但都逊色于本文方法。

为验证比较自训练教师模型机制和重标签再训练机制的有效性，在原始LSFBD数据库和具有人工合成30%训练集噪声标签的LSFBD数据库中分别进行实验，实验结果如表 3所示。在原始LSFBD数据库上，将表 3第1行与第3行比较、第2行与第4行比较，可知使用自训练教师模型机制使分类准确率提升了0.5%和0.8%，平均提升0.7%。同理，在人工合成30%训练集噪声标签LSFBD数据库上，使用自训练教师模型机制使分类准确率平均提升了3.6%。即噪声水平越高，自训练教师模型机制的提升效果越好。因为自训练教师模型机制通过样本选择进行噪声标签限制，达到理想效果时学习的样本皆为干净标签样本。但噪声水平低时噪声标签样本少，受噪声标签负面影响少，故效果提升不明显。在原始LSFBD数据库上，将表 3第1行与第2行、第3行与第4行比较，可知使用重标签再训练机制使分类准确率提升了1.9%和2.2%，平均提升2.1%。同理，在人工合成30%训练集噪声标签LSFBD数据库上，使用重标签再训练机制使分类准确率平均提升了1.9%。两种机制对比实验表明，本文方法在每一个环节都具有充分的有效性。

重标签机制中，δ是预测输出的最大概率P_m与标签对应的预测输出概率P_t的阈值间隔。固定其他设置，在原始LSFBD数据库中δ取不同值时，实验结果如表 4所示。从表 4可知，当δ取值越远离0.5时，分类准确率越低。这是因为δ＜0.5时，会导致更多错误的重标签操作，从而影响分类准确率。然而δ＞0.5时，没有完全纠正所有噪声标签，从而影响分类准确率。

为了减少人脸美丽预测中噪声标签的负面影响，本文提出一种自纠正噪声标签方法，在样本选择方法的基础上，自训练出噪声标签样本判断能力更强的深度网络，从而帮助区分噪声标签样本。本文方法包括自训练教师模型机制和重标签再训练机制。自训练教师模型机制以自训练的方式得到教师模型，帮助学生模型进行干净样本选择和训练，直至学生模型泛化能力超过教师模型并成为新的教师模型，并不断重复该过程。重标签再训练机制通过比较最大预测概率和标签对应预测概率，从而纠正噪声标签。最后，利用纠正后的数据反复执行自训练教师模型机制训练。在人工合成噪声标签LSFBD数据库、人工合成噪声标签SCUT-FBP5500数据库和原始LSFBD数据库、原始SCUT-FBP5500数据库上进行实验，皆证明本文方法能降低噪声标签的负面影响且效果优于基准方法。

由于数据库中存在类间数据样本数量不平衡的问题，利用自纠正噪声标签方法判断数据样本数量少的类别中存在的噪声标签比较困难，这是由于数据样本数量少的类别表达的差异性特征不够强，因此更难以建立噪声标签样本判断的决策边界，后续将融合代价敏感方法，降低类间不平衡带来的影响，不断优化该方法。