目标检测与识别是计算机视觉中的一个经典难题，研究的内容包括行人、车辆和人脸等。其中，车辆和人脸都是刚性物体，目标的结构稳定，研究起步较早，相应的检测技术也比较成熟，并有相关的产品问世，比如车牌识别和人脸考勤等。而行人具有刚性物体和柔性物体的双重特性，属于目标检测的一类特殊问题，与人脸和车辆相比，外观和姿态的变化更加多样化，检测难度也更大。此外，行人检测是车辆辅助驾驶、视频监控和人体行为分析等应用领域中基础且至关重要的第一步。因此，继人脸检测之后，行人检测成为图像处理和计算机视觉目标检测领域的另一个研究热点。

基于背景建模和机器学习的传统行人检测方法在特定条件下具有较好的检测精度，但不能满足实际应用的要求。Krizhevsky等人(2017)将深度学习技术应用到大规模图像分类中，发现基于深度学习表示的特征具有较强层次的表达能力和良好的鲁棒性，能够较好地解决一些视觉问题。随着两阶段检测器R-CNN(region convolutional neural network)(Girshick等，2014)、Fast R-CNN(Girshick，2015)、Faster R-CNN(Ren等，2017)、R-FCN(region-based fully convolutional network)(Dai等，2016)和单阶段检测器SSD(single shot multiBox detector)(Liu等，2016)、YOLO(you only look once)系列(Redmon等，2016)等深度卷积神经网络(deep convolutional neural networks，DCNNs)在一般性目标检测方面取得很大进展，越来越多的学者改进通用目标检测框架，将其引入行人检测中。Tian等人(2015)提出一种基于部件的检测方案DeepParts，将人体分割成多个部位分别检测，然后将结果组合起来解决行人遮挡问题。Zhang等人(2016)通过分析Faster R-CNN(region convolutional neural network)在行人检测中的性能，用RPN(region proposal network)提取候选区域，并用随机森林进行分类，取得了当时最佳的检测效果。Mao等人(2017)提出一种改进Faster R-CNN的行人检测算法HyperLearner，在VGG(Visual Geometry Group)网络的基础上，增加了一个分支网络，并与主体网络特征一起送入区域建议网络进行处理，解决了复杂场景下行人检测困难问题。Molchanov等人(2017)提出全卷积YOLO神经网络在视频监控中的行人检测方法，通过学习单个神经网络，将检测和分类任务合并到一个使用卷积神经网络的挑战中，在速度上取得了很好效果。Tesema等人(2018)将FPN(feature pyramid network)应用于行人检测，利用深度卷积网络固有的多尺度结构，构造了一个在各层次都具有丰富语义的特征金字塔，提高了行人检测算法的性能，对不同尺度的行人具有较强的鲁棒性。Liu等人(2019a)提出一种基于上下文信息改进SSD的行人检测方法，通过提取SSD卷积神经网络中的浅层特征，将卷积层中的浅层语义信息与深层语义信息融合，进而检测图像中行人的大小，重新设计了不同长宽比预选框，在提高行人检测精度的同时保持了较好的检测速度。

与传统方法相比，神经网络在精度和鲁棒性方面有了显著提高。然而，使用CNN(convolutional neural networks)进行行人检测仍然存在两方面问题。1)如何区分行人与复杂背景。行人出现的区域通常伴随着复杂背景，背景中许多物体可能具有类似行人的明显特征，如广告牌、交通标志和柱子等。检测器可能无法有效区分行人和背景，增加了网络的误检率。2)如何有效检测出小尺度行人。因为小尺度行人在图像中占据相对较小的像素点或图像质量不好导致图像更加模糊，高层卷积层提取的行人距离特征不够明显，使得检测器难以识别。Zhao等人(2016)将Faster R-CNN算法引入到行人检测中，将候选窗口提取、特征提取和分类器包含在一个框架中，提高了检测速度，但是对小尺度行人检测效果不佳。Xiang等人(2018)提出一种改进Faster R-CNN算法，使用最后一层卷积输出的特征图，由于小尺度行人在该特征图中易丢失，导致检测精度明显下降。

大部分行人数据集都存在小尺寸行人图像，严重影响着行人检测器的性能。尤其在Caltech(Dollár等，2009)数据集中，行人高度在20~80像素的人数超过了总数的70 %，小尺度行人占很大比例。本文针对分辨率低、行人尺寸较小情境下检测精度低的问题，将R-FCN目标检测算法引入到行人检测中，提出一种改进R-FCN模型的小尺度行人检测算法，通过引进可变形卷积层、增加一条新路径和利用自举策略的非极大值算法，提高了小尺寸行人的检测精度，改善了在分辨率低的场景中行人容易误检现象。

R-FCN的网络结构主要由残差网络(residual neural network，ResNet)和区域建议网络(region proposal network，RPN)组成，如图 1所示。前者用于提取特征，后者用于生成感兴趣区域(region of interest，RoI)。其中，$K$代表锚点数，$C$代表物体的类别数。主要过程为：输入的图像先经过一个全卷积网络；在最后一个卷积层后面添加特殊的卷积层生成位置敏感得分图(position-sensitive score map)，同时全卷积网络的最后一个卷积层输出作为RPN网络的输入，RPN网络最后生成RoIs；通过位置敏感RoI池化层(position-sensitive RoI pooling layer)将前面的得分图和感兴趣区域作为输入，输出类别信息。

RPN网络的基本结构如图 2所示，左侧分支进行分类，分为前景和背景两类，即候选框中有目标还是无目标；右侧分支进行回归，用于获取边框位置信息的卷积网络。其中$k$代表锚点数，$d$代表维度。

RPN在自身训练的同时，还会生成感兴趣区域。将生成的感兴趣区域和分类的卷积层生成的得分图进行池化，最终得到每个感兴趣区域属于每个类别的概率，将感兴趣区域与回归卷积层的输出进行池化，得到每个RoI的4个坐标。

R-FCN将在共享卷积层的最后一层网络中连接一个卷积层，该卷积层就是位置敏感得分图(position-sensitive score map)，该map是一层卷积层，其高度$H$和宽度$W$与共享卷积层的一样(即具有同样的感受野)，但是通道个数为$K^{\rm 2 }$($C+$1)。其中$C$表示物体类别种数，再加上1个背景类别，所以共有$C$+1类，而每个类别都有$K ×$ $K$个得分图。

为了在每个RoI中编码位置信息，通过一个网格将每个RoI分成$K×K$个矩形单元(bins)。对$W$×$H$的RoI区域，每一个矩形单元的大小$≈W/K× H/K$。在R-FCN算法中，最后一个卷积层由$K^{\rm 2 }$个得分图组成。对于第$i$行第$j$列的矩形单元bin($0≤i, j≤K－1$)，其得分图计算为

$ {r_c}(i, j\mid \mathit{\Theta }) = \sum\limits_{(x, y) \in b(i, j)} {{z_{i, j, c}}} \left({x + {x_0}, y + {y_0}\mid \mathit{\Theta }} \right)/n $

(1)

式中，$r_{c}(i, j|\mathit{\mathit{Θ}})$为第$c$类第$(i, j)$块的池化响应。$z_{i, j, c}$为$K^{\rm 2 }$($C+1$)维得分图中的输出，$(x_{0}, y_{0})$为RoI的左上角坐标，$n$为图块的像素总数，$\mathit{Θ}$表示网络的所有可学的参数。

然后，$K^{\rm 2}$位置敏感分数对RoI进行投票。在R-FCN算法中，只通过对分数求平均进行投票，为每个RoI生成($c + $1)维向量，具体为

$ {r_c}(\mathit{\Theta }) = \sum\limits_{i, j} {{r_c}} (i, j\mid \mathit{\Theta }) $

(2)

式中，$r_{c}(\mathit{Θ})$表示每个类别的平均得分。最后通过softmax函数分类出每个类别的概率，并用于训练期间评估交叉熵损失(cross-entropy loss)和推断期间对RoI进行排序。具体为

$ {s_c}(\mathit{\Theta }) = {{\rm{e}}^{{r_c}(\mathit{\Theta })}}/\sum\limits_{{c^\prime } = 0}^c {{{\rm{e}}^{{r_{{c^\prime }}}(\mathit{\Theta })}}} $

(3)

改进的算法继承了R-FCN的优点，使用一个区域建议网络(RPN)生成感兴趣候选区域，并使用位置敏感得分图对目标进行分类和定位。He等人(2016)提出的新的深度残差网络(ResNet-101)具有计算量小、参数少以及精度不降低的特点，所以使用ResNet-101作为改进算法的基础网络。与原始R-FCN相比，主要有以下改进：1)将ResNet-101的conv5阶段的所有3$×$3常规卷积层扩展为可变形的卷积层，因为可变形卷积可增加模型的泛化能力，扩大特征图的感受野，可以提高R-FCN特征提取的准确度；2)在训练阶段附加另一个位置敏感的得分图，用conv4层和在线硬样本挖掘(online hard example mining，OHEM)的融合策略检测小尺度行人，与原始conv5层后的位置敏感的得分图组合，用于检测不同尺度的行人；3)改进传统非极大值抑制(non-maximum suppression，NMS)算法，提出自举策略的非极大抑制算法(bootstrap non-maximum suppression，B-NMS)，可解决行人误检问题。改进的R-FCN网络结构如图 3所示。

由于姿态、尺度、视点和零件变形等因素引起的几何变化是目标识别和检测的主要问题。Zhu等人(2019)在可变形卷积网络(deformable convolutional networks，DCNv1)(Dai等，2017)的基础上，提出了一种新的变形卷积算法Deformable ConvNets v2(DCNv2)，通过改进可变形结构以及引入偏置(offset)，使得特征提取过程能够更加集中于有效信息区域。DCNv2在此基础上引入权重(modulation)，通过分配不同权重给经过的offset修正后的区域，实现更加准确的特征提取。

给定$k$个采样点的卷积核，令$w_{ k}$和$p_{ k}$分别表示第$k$个采样点的权重和预先设定的偏移量。例如，$k$=9，$p_{k}∈\{(－1, －1), (－1, 0), …, (1, 1)\}$表示感受野的大小，典型的9点方格，以3$×$3为主。

传统的卷积输出特征图为

$ \mathit{\boldsymbol{y}}\left({{p_0}} \right) = \sum\limits_{{p_k} \in \mathit{\boldsymbol{R}}} w \left({{p_k}} \right) \cdot \mathit{\boldsymbol{x}}\left({{p_0} + {p_k}} \right) $

(4)

式中，卷积窗口中的每个像素点$p_{ k}$对应权重$w$；$p_{\rm 0}$代表窗口输出的每个像素点；${\mathit{\boldsymbol{x}}}$是输入层像素点集合。

可变形卷积利用偏移量Δ$p_{ k}$和权重Δ$m_{k}$增大规则网格${\mathit{\boldsymbol{R}}}$的感受野。设${\mathit{\boldsymbol{x}}}(p_{\rm 0})$和${\mathit{\boldsymbol{y}}}(p_{0})$分别表示输入特征图${\mathit{\boldsymbol{x}}}$和输出特征图${\mathit{\boldsymbol{y}}}$中位置$p_{0}$处的特征。调制后的可变形卷积可表示为

$ \mathit{\boldsymbol{y}}\left({{p_0}} \right) = \sum\limits_{k = 1}^K {{w_k}} \cdot \mathit{\boldsymbol{x}}\left({{p_0} + {p_k} + \Delta {p_k}} \right) \cdot \Delta {m_k} $

(5)

式中，Δ$p_{ k}$和Δ$m_{ k}$分别是学习到的偏置和权重。Δ$m_{ k}$位于[0, 1]范围内，Δ$p_{ k}$为实数，取值范围无限制。由于$p_{\rm 0}+p_{k}+$Δ$p_{k}$为分数形式，在计算${\mathit{\boldsymbol{x}}}$时采用双线性插值。

如图 4所示，可变形卷积将常规卷积过程分成两条路经，一条路径学习offset，得到$H×W×$2$N$的输出(offset)，$N = |{\mathit{\boldsymbol{R}}}|$表示网格中像素个数，2$N$表示有$x$和$y$两个方向的offset。另一条路径在得到offset以后，对于原始卷积的每一个卷积窗口，都不再是原来规整的滑动窗口(图 4中绿色框)，而是经过平移后的窗口(图 4中蓝色框)，增大了输出特征图的面积。

考虑到Caltech数据集中行人有多种尺度变换情况，将DCNv2中的可变形卷积层应用到残差网络中。在ResNet-101的conv5阶段所有3$×$3常规卷积层(res5a_branch2b、res5b_branch2b、res5c_ branch2c)中分别引入可变形卷积层、偏移层和权重，因此卷积块的有效步长可以从32像素减小到16像素，膨胀率从1变为2，pad设置为2，步长为1，以增加特征图的分辨率和感受野，实现更加准确的特征提取。

对残差网络结构分析可知，输入图像与ResNet-101中conv1-5阶段输出的特征图的比分别为1 ∶ 2、1 ∶ 4、1 ∶ 8、1 ∶ 16、1 ∶ 32。使用检测子网络在conv1-5阶段输出的特征图上滑动1个像素，相当于分别在原图上滑动2、4、8、16、32个像素。由于在Caltech数据集中存在大量宽度或高度小于32像素的行人，原始R-FCN中在Conv5阶段后添加位置敏感得分图，会使宽度或高度小于32像素的行人在位置敏感得分图中丢失。受Liu等人(2016)融合多路径检测结果的启发，在改进网络中加入了另一条检测路径，见图 3虚线框。由于ResNet-101中的conv1-3阶段特征区分能力弱于conv4阶段，因此在conv4层后增加一层位置敏感得分图与原始的位置敏感得分图并联来共同检测多尺度行人。

在行人检测中，误检主要是硬背景实例的混淆造成的。因此，采用Shrivastava等人(2016)提出的在线硬样本挖掘(OHEM)方法，主要思想是对样本按损失(loss)进行排序，选择前面loss较小的。该方法主要用来对负样本进行筛选，使得正负样本更加平衡。OHEM是一种没有计算消耗的硬样本挖掘方法，因为在位置敏感的RoI池之前，所有计算都是共享的，所以在每个RoI上定义的损失函数是不同检测路径的交叉熵损失和box回归损失之和，即

$ \begin{array}{*{20}{c}} {L\left({s, {t_{x, y, w, h}}} \right) = \sum\limits_{i = 1}^2 {\left({L_{{\rm{cls}}}^i\left({s, {c^*}} \right) + } \right.} }\\ {\left. {\lambda \left[ {{c^*} > 0} \right]L_{{\rm{reg}}}^i\left({t, {t^*}} \right)} \right)} \end{array} $

(6)

式中，$s$是预测框$t_{x, y, w, h}$的得分，$c^{*}$是RoI的真实标签，$i$表示第$i$条路径，$L_{\rm cls}$和$L_{\rm reg}$分别表示分类的交叉熵损失和使用smoothL1的边界框回归损失，$λ$用来平衡两者的重要性，$[c^{*}>0]$表示如果分类正确为1，分类错误为0。对分类错误的样本不进行位置损失排序。

传统的物体检测流程通常采用多尺度滑动窗口，根据每个物体类别的前景或背景分数对每个窗口计算其特征。但是相邻窗口往往具有相关的分数，这会增加检测结果的假阳性。为了避免出现这样的问题，Neubeck和van Gool(2006)提出非极大值抑制(NMS)方法，对检测结果进行后续处理得到最终检测结果。传统的NMS算法首先在检测图像中产生一系列的检测框${\mathit{\boldsymbol{B}}}$以及对应的分数$S $。当选择最高分数的检测框${\mathit{\boldsymbol{M}}}$时，它将从集合${\mathit{\boldsymbol{B}}}$中删除并放入最终检测结果集合${\mathit{\boldsymbol{D}}}$中。同时，集合${\mathit{\boldsymbol{B}}}$中任何与检测框${\mathit{\boldsymbol{M}}}$的重叠部分大于重叠阈值$N_{\rm t}$的检测框也将删除。NMS算法中的最大问题就是将相邻框的分数均强制为零。在这种情况下，如果一个真实物体出现在重叠区域，则将导致对该物体的检测失败并降低算法的平均精度(average precision, AP)。在最先进的检测器(Girshick，2015；Ren等，2017；Dai等，2016)中，NMS因为极大地减少误报数量而用于获得最终的检测集，但在分辨率低的场景中，NMS方法往往会导致行人误检。对此，Bodla等人(2017)提出Soft-NMS算法，解决了NMS算法中存在的问题，用一个稍微小一点的分数替代原有的分数，而并非将相邻框的分数均强制为零，取得了较好效果。但该算法是一种贪心算法，并不能保证找到全局最优的检测框分数重置，仍然存在行人误检现象。

针对传统NMS和Soft-NMS算法存在的误检问题，本文提出一种改进NMS算法的自举策略非极大抑制算法，使用两个框的重叠率$r$和相似性度量$m$来区分这两个框是否属于同一个人，并使用两个阈值$T_{r}$和$T_{m}$来挖掘负样本。自举策略的相似度阈值$m$定义为

$ \begin{array}{l} \begin{array}{*{20}{c}} {m = {{\rm{e}}^{((1 - 2\lambda) \times {\rm{d}}xy + \lambda \times {\rm{d}}w + \lambda \times {\rm{d}}h)}}}\\ {{\rm{d}}xy = \sqrt {{{\left({\frac{{{x^\prime } - x}}{w}} \right)}^2} + {{\left({\frac{{{y^\prime } - y}}{h}} \right)}^2}} } \end{array}\\ \begin{array}{*{20}{l}} {\;\;\;\;\;\;\;{\rm{d}}w = \left\| {\frac{{{w^\prime }}}{w} - 1} \right\|}\\ {\;\;\;\;\;\;\;{\rm{d}}h = \left\| {\frac{{{h^\prime }}}{h} - 1} \right\|} \end{array} \end{array} $

(7)

式中，$x, y, w, h$分别表示框的中心坐标、宽度和高度，用于排序队列中的其他框。$x′, y′, w′, h′$用于排序队列${\mathit{\boldsymbol{Q}}}$中得分最大的预测框。$ \|·\| $表示$L_{\rm 1}$-范数。$λ$表示一个加权参数，本文设置$λ=0.3$。最后的度量是3个偏差的加权和，表示两个检测框的相似度。

改进的NMS算法的具体步骤如下：

输入：检测框${\mathit{\boldsymbol{D}}}$，分值$S$，相似性度量阈值$T_{ m}$。

输出：结果列表${\mathit{\boldsymbol{L}}}$。

1) 选择得分$S$>0.5的检测框${\mathit{\boldsymbol{D}}}$，根据队列${\mathit{\boldsymbol{Q}}}$中的得分$S$按降序排序；

2) 根据式(7)计算排序队列${\mathit{\boldsymbol{Q}}}$中第1个框与其余框的重叠率$r$和相似性度量$m$；

3) 删除排序队列${\mathit{\boldsymbol{Q}}}$中重叠率$r $> 0.3的新备份队列${\mathit{\boldsymbol{B}}}$中的框；

4) 搜索备份队列${\mathit{\boldsymbol{B}}}$中相似性度量$m$大于阈值$T_{ m}$同时重叠率$r$ < 0.5(即满足条件(0.3 < $r $ < 0.5且$m $> $T_{ m}$))的框；

5) 将${\mathit{\boldsymbol{B}}}$中的搜索框追加到已排序队列${\mathit{\boldsymbol{Q}}}$的底部，然后将已排序队列${\mathit{\boldsymbol{Q}}}$中的第1个框移动到输出列表${\mathit{\boldsymbol{L}}}$中；

6) 如果排序队列${\mathit{\boldsymbol{Q}}}$为空，则返回输出列表${\mathit{\boldsymbol{L}}}$，否则重复步骤2)—5)。

实验在深度学习框架Caffe上进行。实验平台为ubuntu14.04操作系统和NVIDIA GTX 1080GPU。改进ResNet-101在ImageNet预先训练的模型，通过反向传播和随机梯度下降(stochastic gradient descent，SGD)进行端到端训练。调整每幅图像的大小，使较短边缘具有$N$个像素(在Caltech数据集上$N $= 600像素)。本文对RPN进行微调，在训练和测试阶段生成300个proposals，然后输入到R-CNN分类中。采用前一半样本作为小型批处理中的硬示例来更新反向传播中的权值。经过卷积神经网络后，采用重叠阈值$T_{\rm r}$= 0.3和相似阈值$T_{ m}$= 0.8的非极大值抑制方法对预测框进行融合。前40 k批次学习率为0.001，后30 k批次学习率为0.000 1，动量为0.9，动量衰减为0.000 5。

实验使用Caltech基准数据集。Caltech数据集由车载摄像机拍摄的约250 000幅图像组成，分辨率为640×480像素，分为11部分，即set00-set10。set00-set05为训练集，set06-set11为测试集。实验选取54 145幅至少包含1个行人的图像，按3 ∶ 1 ∶ 1的比例，用32 487幅图像作为训练集，10 829幅图像作为验证集，10 829幅图像作为测试集。这样既能保证训练CNNs的数据量充足，又避免了取所有帧带来的数据冗余。实验将Caltech数据集转换成PASCAL VOC(pattern analysis, statistical modeling and computational learning visual object classes)数据集(Everingham等，2010)中定义的方法来评估行人检测模型的结果。

实验使用精确率—召回率(precision-recall，PR)曲线、平均精度(mean average precision，mAP)和损失值作为检测算法的评价指标。

精确率$P$表示正确识别为正样本的正样本占所有识别为正样本的比例。即

$ P=\frac{T_{P}}{T_{P}+F_{P}} $

(8)

式中，$T_{P}$(true positives, TP)表示将正样本正确识别为正样本，即行人样本识别为行人样本；$F_{P}$(false positives, FP)表示将负样本错误识别为正样本，即非行人样本识别为行人样本。

召回率$R$表示正确识别为正样本的正样本占所有正样本的比例。即

$ R=\frac{T_{P}}{T_{P}+F_{N}} $

(9)

式中，$F_{N}$(false negatives, FN)表示将正样本错误识别为负样本，即行人样本识别为非行人样本。

损失值表示预测值与真实值相近程度，损失值越小，说明模型的鲁棒性越好。

实验统计改进模型在训练次数每隔10 000次的精度，不同迭代次数的精度值如表 1所示。可以看出，随着迭代次数增加，模型精度值逐步上升，在70 000次时达到顶峰，在80 000次后逐渐下降。本文选取迭代次数为70 000次的训练模型进行验证。

R-FCN模型和改进模型的训练损失值图如图 5所示。由图 5及损失日志文件可知，模型训练开始时，损失值忽高忽低。当训练迭代到40 000次时，学习率衰减10 %，损失值波动幅度减少；在70 000次时损失值趋于平稳；当迭代次数达到80 000时，学习率再次衰减10 %，损失值开始上升，波动幅度较大；因此，训练迭代次数设置过大，网络可能过度拟合，导致损失值不稳定(Wang等，2015)。

不同基础网络的精度如表 2所示。可以看出，ResNet-101更适合本文模型，虽然速度比ResNet-50慢0.024 s，但检测精度比ResNet-50高7.29 %。本文算法选取ResNet-101作为基础网络。

为了验证本文算法的性能，在Caltech数据集(行人高度为20~80像素)中，与两阶段检测器中的Faster R-CNN算法、单阶段检测器中的SSD算法、Kuang等人(2018)的行人检测算法、Liu等人(2019b)的行人检测算法、Yang等人(2020)基于R-FCN改进的检测算法和何姣姣等人(2018)基于R-FCN改进的检测算法进行检测精度对比，结果如表 3所示。可以看出，在小尺度行人检测上，改进算法的算法精度较Faster R-CNN、SSD、Kuang等人(2018)和何姣姣等人(2018)的方法分别提高了3.29 %、2.78 %、5.68 %和1.88 %。较Liu等人(2019b)和Yang等人(2020)的方法分别降低了1.97 %和0.45 %。

不同方法组合的行人检测精度如表 4所示。可以看出，1)OHEM对Caltech来说是必要的，实现了7.38 % 的提升，因为Caltech数据集包含了大量复杂背景下的混淆实例，可以充分利用OHEM。2)在ResNet-101的conv5阶段采用可变形卷积层，比常规卷积层提高了0.89 %。3)使用多路径检测结构可以使检测精度增加2.50 %。4)利用自举策略对非极大值抑制进行了校正，比传统的NMS算法有了1.67 % 的改善。

不同组合方法的行人检测PR曲线如图 6所示。可以看出，1)在ResNet-101的conv5阶段嵌入可变形卷积层比原始常规卷积层检测的准确率更高；2)采用多路径检测比原始单路径检测小尺寸行人的检测效果有明显提高；3)采用相同组合因素的算法，分别利用传统NMS和B-NMS进行检测，B-NMS的检测效果更好；4)改进的R-FCN算法对小尺寸行人检测准确率有较好提升，说明了改进方法的有效性。

检测效果如图 7所示。通过实验发现，1)从图 7(a)常规卷积与图 7(b)可变形卷积检测效果对比可以看出，在残差网络的conv5阶段嵌入可变形卷积层，可以使特征提取更加准确。使用常规卷积容易出现漏检现象，而使用可变形卷积层代替常规卷积层，可以明显改善行人漏检现象；2)从图 7(c)单路径与图 7(d)多路径检测效果对比可以看出，在ResNet-101的conv4层后添加一个新的位置敏感得分图，与conv5层后的位置敏感得分图并联，可以提高小尺寸行人的检测精度。在行人被障碍物遮挡的情况下，使用多路径检测方法，可以提高行人检测精度。3)从图 7(e)传统NMS与图 7(f)B-NMS的检测效果对比，及图 7(g)Soft-NMS与图 7(h)B-NMS的检测效果对比可以看出，利用自举策略对传统非极大值抑制算法进行校正，明显改善了低分辨率情景的行人误检现象。在复杂场景下使用自举策略的非极大值抑制算法，可以解决行人检测中的误检现象。4)从图 7(i)原始R-FCN与图 7(j)本文算法检测效果对比可以看出，本文算法改善了原始算法中对小尺寸行人存在的漏检现象，且检测精度有所提升。

针对行人尺寸较小、外形多变等特点导致的检测率偏低问题，本文在R-FCN模型基础上进行改进，提出一种改进R-FCN模型的小尺度行人检测算法。通过可变形卷积代替常规卷积，解决了特征提取不准确问题；通过新增一条路径，在ResNet-101的conv4层后加一层位置敏感得分图与原始位置敏感得分图并联来共同检测多尺度行人，解决了小尺寸行人检测率偏低问题；通过改进传统NMS算法, 提出自举策略的非极大值抑制算法，解决了行人误检问题。实验在行人数据集Caltech上进行评估，结果表明，改进算法相比原始R-FCN算法对行人检测精度有很大提升，在低分辨率场景能够有效改善行人误检问题。与具有代表性的Faster R-CNN、SSD算法及其他基于R-FCN改进的检测算法相比，本文算法能够较精确地检测小尺度行人，检测精度有所上升；同时与最新行人检测算法相比，检测精度不劣于其他最新行人检测算法。

本文算法虽然比之前算法在检测精度上有较好提升，但在人数较多的复杂场景下行人检测效果略差。下一步将围绕提高模型在人数较多场景下的行人检测精确率展开研究。