Print

发布时间: 2020-06-16
摘要点击次数:
全文下载次数:
DOI: 10.11834/jig.190319
2020 | Volume 25 | Number 6




    遥感图像处理    




  <<上一篇 




  下一篇>> 





结合深度学习和超像元的高分遥感影像变化检测
expand article info 王艳恒1,2, 高连如2, 陈正超2, 张兵1,2,3
1. 上海海洋大学信息学院, 上海 201306;
2. 中国科学院空天信息创新研究院数字地球重点实验室, 北京 100094;
3. 中国科学院大学环境与资源学院, 北京 100049

摘要

目的 随着遥感影像空间分辨率的提升,相同地物的空间纹理表现形式差异变大,地物特征更加复杂多样,传统的变化检测方法已很难满足需求。为提高高分辨率遥感影像的变化检测精度,尤其对相同地物中纹理差异较大的区域做出有效判别,提出结合深度学习和超像元分割的高分辨率遥感影像变化检测方法。方法 将有限带标签数据分割成切片作训练样本,按照样本形式设计一个多切片尺度特征融合网络并对其训练,获得测试图像的初步变化检测结果;利用超像元分割算法将测试图像分割成许多无重叠的同质性区域,并将分割结果与前述检测结果叠合,得到带分割标记的变化检测结果;用举手表决算法统计带分割标记的变化检测结果中超像元的变化状况,得到最终变化检测结果。结果 在变化检测实验结果中,本文提出的多切片尺度特征融合卷积网络模型在广东数据集和香港数据集上,优于单一切片尺度下卷积神经网络模型,并且结合超像元的多切片尺度特征融合卷积网络模型得到的Kappa系数分别达到80%和82%,比相应的非超像元算法分别提高了6%和8%,在两个测试集上表现均优于长短时记忆网络、深度置信网络等对比算法。结论 本文提出的卷积神经网络变化检测方法可以充分学习切片的空间信息和其他有效特征,避免过拟合现象;多层尺度切片特征融合的方法优于单一切片尺度训练神经网络的方法;结合深度学习和超像元分割算法,检测单元实现了由切片到超像元的转变,能对同物异谱的区域做出有效判决,有利于提升变化检测精度。

关键词

高分辨率遥感影像; 变化检测; 深度学习; 超像元; 多切片尺度特征融合

Deep learning and superpixel-based method for high-resolution remote sensing image change detection
expand article info Wang Yanheng1,2, Gao Lianru2, Chen Zhengchao2, Zhang Bing1,2,3
1. College of Information Technology, Shanghai Ocean University, Shanghai 201306, China;
2. Key Laboratory of Digital Earth Science, Aerospace Information Research Institute, Chinese Academy of Sciences, Beijing 100094, China;
3. College of Resources and Environment, University of Chinese Academy of Sciences, Beijing 100049, China
Supported by: Strategic Priority Research Program of Chinese Academy of Sciences(XDA19080302)

Abstract

Objective The resolution of a remote sensing image increases with the rapid development of remote sensing technology. A high-resolution image has high spatial and temporal resolutions, providing conditions for real-time monitoring and change detection. Change detection in remote sensing is used to detect changes in the same regions at different periods. The purpose of this study is to find a change in the same region between specific periods. However, with the improvement in the spatial resolution of remote sensing images, the difference in the spatial texture information of the same object increases. The features of remote sensing images are becoming increasingly complex and diverse. Traditional change detection methods experience difficulty in obtaining good results from high-resolution remote sensing images. Unsupervised deep learning algorithms suffer from difficulty in extracting valid features and making them equal in areas wherein different objects have the same spectra and similar objects have different spectra. To improve the change detection accuracy of high-resolution remote sensing images, particularly for effective judgment in areas with considerable texture differences in different periods at the same location, this study proposes a deep learning and superpixel segmentation method for high-resolution remote sensing image change detection. Method The algorithm of the deep learning and superpixel-based method for high-resolution remote sensing image change detection exhibits the following characteristics. First, finite labeled data are divided into patches as training samples. Simultaneously, a multiscale patch feature fusion network-based convolutional neural network (MPFF-CNN) is designed. The final model parameters and patch size are determined by testing the different sizes of patches. A preliminary change detection result of the test image can be obtained using this network. Second, the superpixel segmentation algorithm is used to segment the test image into many nonoverlapping homogenous regions and transfer the segmentation result to the preliminary test result to obtain the change detection result with a segmentation mark. An optimal segmentation scale is difficult to obtain in high-resolution remote sensing images. Thus, a multiscale segmentation algorithm is used in this work. Third, the quantities of changed and unchanged pixels of each superpixel in the change detection result with the segmentation marker are statistically evaluated using the hand-crank voting algorithm. All the pixel values of the superpixel are replaced with the pixel values. The categories are more under this superpixel. All the change detection results are stacked to a hypercolumn. Lastly, the quantities of changed and unchanged pixels of each spectrum in the hypercolumn is counted using the hand-crank voting algorithm. If the number of changed pixels is more than that of the unchanged pixels in each spectrum, then the spatial position of the spectrum has a pixel value of 1; otherwise, the pixel value is 0. Result To estimate the accuracy of the proposed change detection algorithm, experiments are conducted on the Guangdong change detection dataset and the Hong Kong change detection dataset. Four widely used methods are selected for comparison, including the fuzzy C-means-based, support vector machine-based, deep belief network-based, and long short-term memory-based methods. The experimental results of change detection in both datasets indicate that MPFF-CNN exhibits an outstanding performance, which is better than the results of the CNN-based model at a single patch size. The change detection results obtained by the multiple superpixel scale are better than those of the single superpixel scale in both datasets. The percentages of correct classification and kappa obtained by deep learning combined with superpixel (MPFF-CNN-SP) are 97% and 80% for the Guangdong change detection dataset, respectively. MPFF-CNN-SP is 1% and 6% higher than MPFF-CNN. MPFF-CNN-SP is better than all the compared algorithms. Similarly, the percentages of correct classification and kappa obtained by MPFF-CNN-SP for the Hong Kong change detection dataset are 99% and 81%, respectively. MPFF-CNN-SP is 1% and 8% higher than MPFF-CNN. MPFF-CNN-SP is superior to all the compared algorithms. Conclusion The multiscale patch feature fusion method is better than the CNN-based method of training a single patch size. The multiscale patch feature fusion network-based CNN in this work can adequately gain the spatial information and other effective features of patches. Moreover, it does not cause severe overfitting. The multiscale superpixel segmentation results after double hand-raising voting algorithms are significantly stronger than the segmentation results of a single-scale superpixel segmentation. The deep learning and superpixel method transforms the detection unit from patch to superpixel, effectively judging different texture information of the same object and significantly improving change detection accuracy.

Key words

high-resolution remote sensing image; change detection; deep learning; super pixel; multiscale of patch feature fusion

0 引言

遥感技术是实现对地物进行探测和识别的一种综合技术,可以通过航天航空平台获取大量的地表影像数据,为资源环境、城市规划和国防安全等领域相关应用提供重要的技术支撑。遥感影像变化检测是遥感图像处理分析方法研究的重要方向,核心是利用不同时期相同地域的遥感影像,分析与确定地物的变化状况及其特征相关性,在土地覆盖、土地利用调查、灾害应急和生态环境监测、地理数据更新等方面扮演了重要角色。

随着搭载高空间分辨率光学相机的遥感卫星陆续升空与使用,影像的数量和质量得到显著提升,并且针对同一区域获取数据的频次也逐渐提高,这为高分辨率遥感影像变化检测提供了重要基础。然而,高分辨率遥感影像中地物信息被高度细分,得到的地物类型复杂多样,相同地物间光谱差异变大,容易出现同物异谱或者异物同谱的现象,导致了差值法、比值法、主成分分析法、变化向量分析法和决策树等一系列传统算法在用于高分遥感影像变化检测时达不到预期的效果。针对上述问题,国内外学者提出了许多更有效的算法。其中,对象级变化检测是高分辨率遥感影像变化检测技术一个重要方向,检测单元由像元级转变为对象级,对象中包含了丰富的空间、纹理、形状等特征,通过对象特征差异获取变化检测图,大大提高了变化检测的效率和质量(眭海刚等,2018)。例如,Hall和Hay(2003)首次提出对象数字变化检测方法,对多时相遥感影像进行对象特定分析,放大影像直到完成分水岭分割,最终根据对象进行差分,大大提高了高分辨率遥感影像变化检测的精度。此后,发展了考虑高分辨率遥感影像空间邻域信息、拓扑关系的方法,如马尔可夫随机场(Markov random field,MRF)(Bruzzone和Prieto,2000)、水平集(level set)(Hao等,2014)等被引入对象级变化检测中,通过有效利用空间邻域等信息,进一步提高了变化检测精度。对象级变化检测中的关键步骤为对象分割,常用的对象分割算法主要有K-means聚类(Celik,2009)、quick-shift(Ru等,2014)、简单线性迭代聚类(simple linear iterative clustering,SLIC)(Achanta等,2012王春瑶等,2014)等超像元分割算法。然而超像元分割在变化检测中存在以下问题:1)多时相遥感影像进行超像元分割后,由于超像元数量不一致、相同地物分割边界不同等问题,使得多时相遥感影像直接进行对象差异对比存在一定困难;2)分割算法高度依赖于指定的任务,单个算法及其超参都不可能应用于所有状况,并且超像元分割算法存在大量的超参数,确定超参数也是一个难点。

深度学习的发展将高分辨率遥感影像变化检测推向新的高潮,神经网络可以充分提取高分辨率图像数据的深度特征,在不需要提取地物对象的条件下还能兼顾空间邻域信息。Del Frate等人(2002)曾利用BP(back propagation)神经网络通过特征学习进行高分辨率遥感影像变化检测,但当时神经网络发展尚未完善,硬件设备也达不到需求,所以没有引起反响。随着深度置信网络(deep belief network,DBN)、卷积神经网络(convolutional neural network,CNN)和循环神经网络(recurrent neural networks,RNN)等具有强特征学习能力的网络模型的出现,以及计算机硬件的发展,遥感影像变化检测的深度学习方法成为了前沿热点研究方向。

然而,深度学习在变化检测中面临一个非常重要的问题,即缺乏训练样本标签,主要原因是针对某一特定区域进行变化检测时,带标签样本数据有限甚至没有,制作大量样本标签需要大量人力物力财力,并且已有的其他地域的样本与测试区域存在较大的地物类型差异,仅有很弱的迁移泛化能力。然而,无监督学习不需要样本标签即可学习到多时相遥感影像的有效特征,且具有良好的抗噪特性,成为变化检测研究的一个趋势。无监督深度学习的变化检测主要包括迁移学习和自编码器算法两方面,已经取得了很多研究成果。El Amin等人(2016)将预训练的VGG(visual geometry group)模型用于变化检测特征提取,将特征差异作为整体变化差异;Hou 等人(2017)将预训练的VGG16模型结合低秩算法应用于多时相遥感影像,将低秩算法提取到的噪声部分作为最终变化检测差异图;Liu等人(2018)提出了一种无监督深度耦合网络,用于不同日期采集的光学和雷达两种异构图像的变化检测等。上述算法均从深度学习提取到的特征层面进行变化阈值分割,并取得了不错效果。但是非监督学习提取的特征非常抽象与模糊,可能与变化检测要求的特征相差较大,并且对同物异谱的地域具有较差的识别能力。

利用有限带标签数据进行监督学习是基于深度学习变化检测发展的另外一种方法,主要是利用特殊训练技巧增强监督网络模型的泛化能力,提高变化检测精度。Daudt等人(2018)利用图像切块作为训练集,训练改进U-Net及其变形的网络结构,得到3个端到端的变化检测网络模型,取得了不错的结果;Lyu 等人(2016)Mou 等人(2019)将RNN中的长短时记忆网络模型(long short-term memory,LSTM)引入变化检测中,取切片并排列组合成新的向量形式作为样本,充分利用了多时相遥感影像的时间信息,直接产生二值差异影像。上述方法均证明了有限样本可以进行有效的变化检测,并对空间纹理差异较大的相同地物做出有效判断。

上述研究取像元点及周围邻域构成的切片作训练样本,训练的网络仅利用了切片大小的局部空间相关性,未将空间纹理特征一致的像元集合作为一个对象整体来考虑,可能导致提取的地物的特征信息被弱化,制约了变化检测的精度。因此,本文在提取切片空间信息基础上加入超像元(super-pixel,SP),使超像元成为检测基本单元,强化了不同时相间地物特征的关联性。具体思路如下:首先在影像预处理基础上构建了一个多尺度切片特征融合网络(multi-scale patch feature fusion convolutional neural networks,MPFF-CNN),用于充分提取有限样本的特征信息,以得到初始二值差异图。然后在测试数据上分割得到超像元,用超像元特征替换MPFF-CNN的特征作为检测变化的最小单元,进一步提高变化检测精度。实验表明,结合深度学习和超像元分割的方法(MPFF-CNN-SP)比有限样本条件下的MPFF-CNN、LSTM(Lyu等,2016)、DBN(Gong等,2016张鑫龙等,2017)等算法均具有更高的变化检测精度。

1 结合深度学习和超像元分割的变化检测方法

结合深度学习和超像元分割的变化检测方法主要流程如图 1所示。

图 1 结合深度学习和超像元分割的变化检测流程图
Fig. 1 Flowchart of deep learning and super pixel-based change detection

1.1 面向变化检测的遥感影像预处理

多时相遥感影像变化检测的核心是分析同一地理区域地物的变化和特征相关性,而遥感影像预处理可以减弱外界物理因素对相应地物的干扰,降低相应特征的复杂性,所以预处理过程尤为重要。

首先对多时相高分遥感影像进行几何配准,以减少配准误差对变化检测算法的影响;然后利用直方图匹配方法进行辐射校正,降低多时相遥感影像中太阳角度、光照强度、大气条件以及空气湿度等成像因素造成的同物异谱的影响。

1.2 基于深度监督学习的变化检测模型

1.2.1 样本选择

模型预测变量的有效性和稳定性决定了模型对数据的解释能力,而训练样本是决定模型有效性和稳定性的关键之一。样本选择的目的是在有限带标签数据条件下,构造一个提取特征能力强的变化检测神经网络模型,因而训练样本集的选择显得尤为重要。样本选择基于如下思想:为了避免过拟合现象的发生,将有限数据进行分割,用切片形式作样本来增强网络泛化性,同时为了保证切片能够保留原有的空间信息,切片不宜过小,切片的大小决定着变化检测结果的好坏,后文对此有详细分析。样本选取具体方式如下:

假设${\mathit{\boldsymbol{X}}}=\{{\mathit{\boldsymbol{X}}}^{t}, {\mathit{\boldsymbol{X}}}^{l}\}$为一组带标记数据集,$t$为高分辨率遥感影像数据${\mathit{\boldsymbol{X}}}$的时相,$l$表示${\mathit{\boldsymbol{X}}}$的变化检测真值标签,从${\mathit{\boldsymbol{X}}}^{t}$中取切片$x^{t}_{i±n, j±n}$,将$x^{c}_{i±n, j±n}$作为模型的训练样本,从${\mathit{\boldsymbol{X}}}^{l}$中取点$x^{l}_{i, j}$作为对应的训练样本标签,$x^{c}_{i±n, j±n}$为不同时相影像差值,则

$ \begin{array}{l} x_{i \pm n, j \pm n}^c = \left| {x_{i \pm n, j \pm n}^{{t_1}} - x_{i + n, j \pm n}^{{t_2}}} \right|\\ \;\;\;\;\;\;\;\;\;i \in {\bf{N}}, j \in {\bf{N}} \end{array} $ (1)

式中,${\mathit{\boldsymbol{x}}}=${$x^{c}$, $ x^{l}$}为模型训练样本,$x_{i, j}$是训练样本中心像元点,$i$, $j$是对应${\mathit{\boldsymbol{X}}}$的空间横纵坐标,$ω = 2$$n+1$($n = $0, 1, 2, …)表示切片尺寸;选取方式为随机选取同等数量的变化样本和未变化样本。

1.2.2 多尺度切片特征融合网络(MPFF-CNN)

深度学习是通过多层非线性变换对高复杂度数据建模的算法,已成功用于语音识别、自然语言处理、计算生物学和图像处理等领域。在变化检测中,相比于传统机器学习算法,深度学习可以自主学习多时相高分辨率遥感影像中相同地域深度特征的相关性,显著提升了变化检测精度。为了充分利用样本的空间特征信息,同时避免过拟合现象,本文设计了一个多尺度特征融合网络(MPFF-CNN)进行变化检测,结构如图 2所示。设计理念是:1)CNN在图像处理任务上表现卓越,可以使切片在空间多维形态下进行非线性学习,不需要像DBN、LSTM将切片转化为丢失空间信息的向量形式,所以基于CNN构建变化检测模型。2)将网络输入定义为3层:5×5、7×7、9×9,即将切片的大小$ω$设定为3个固定尺度。多个尺度能充分提取切片中心像元的邻域信息。3)考虑到经典语义分割模型参数量较大,以尺度相对较小的切片作训练集往往造成过拟合,对空间尺寸较小、光谱维度较低的数据,简单的卷积结构反而能得到表现较好的变化检测结果(Mou等,2019)。4)3×3卷积核能够捕捉数据更小尺寸的邻域信息;多个3×3卷积可以替代更大尺寸卷积来增大感受野,并且减少网络参数,比一个大尺寸卷积有更多的激活函数,因而具有增强网络的非线性学习能力等优点。所以模型主要采用多个3×3卷积来提高模型对切片的特征提取能力。5)为了充分利用提取的3个尺度切片的特征,在网络中加入特征融合层,并利用1×1卷积核将融合的特征提取主成分与标签作对比,得到变化检测结果。以1×1卷积核为模型收尾,不仅可以提取融合特征中与变化检测相关的主特征,还将网络模型构成了一个全卷积结构,使测试图像直接作为网络输入得到变化检测结果,明显缩短测试时间。

图 2 多尺度切片特征融合网络(MPFF-CNN)
Fig. 2 Multi-scale patch feature fusion networks

1.3 结合深度学习和超像元分割的变化检测模型

MPFF-CNN用切片作样本提取深度特征,在高分辨率遥感影像的特征域分析变化情况,有效提高了变化检测的精度。然而,MPFF-CNN学习的空间特征仅局限于$ω $× $ω$的邻域范围,而不是一个完整的地物特征或者更大的空间特征信息,检测地物在存在噪音干扰时,往往会导致该地物一部分被判断为变化,另一部分判断为未变化。从另一方面讲,MPFF-CNN的检测单元是单个$ω $× $ω$大小的特征域,$ω$太小会限制变化检测精度的提升,且在MPFF-CNN中为了避免过拟合现象,$ω$不易过大。针对上述问题,本文引入超像元分割聚类算法,目的是以一个超像元对象代替多个$ω $× $ω$邻域信息,解决变化检测单元过小的限制,加入超像元后,超像元可以给MPFF-CNN得到的特征加一个约束,使特征更具规则化,更好地利用地物空间信息,提高变化检测精度。

超像元分割的主要思想是将图像分割为多个纹理、颜色、亮度等特征相似的区域。本文的超像元分割采用SLIC算法(Achanta等,2012)。相比于其他超像元分割方法,SLIC具有较高的运行速度、物体轮廓保持度和超像元的紧凑度,并且需要设置的参数少,理想状态仅需要设置一个分割尺度,在一定程度上解决了分割算法中繁琐的超参设置问题。SLIC算法主要步骤如下:

1) 将原始图像的3维空间转化为5维特征空间,包括CIELab颜色空间和$x$, $ y$坐标空间。

2) 设置超像元个数(超像元分割尺度)$p$,将预分割图像平均分割为$p$个超像元,并通过计算超像元的聚类中心邻域内的像元梯度,微调超像元聚类中心位置,避免落在梯度较大的轮廓边界上。

3) 按照$D′$的大小为每个聚类中心2$S $× 2$S$邻域内的每个像元点重新分配类标签,$D′$大小为

$ {D^\prime } = \sqrt {{{\left({\frac{{{d_{\rm{c}}}}}{m}} \right)}^2} + {{\left({\frac{{{d_{\rm{s}}}}}{S}} \right)}^2}} $ (2)

$ {d_{\rm{c}}} = \sqrt {{{\left({{h_j} - {h_i}} \right)}^2} + {{\left({{a_j} - {a_i}} \right)}^2} + {{\left({{b_j} - {b_i}} \right)}^2}} $ (3)

$ {d_{\rm{s}}} = \sqrt {{{\left({{x_j} - {x_i}} \right)}^2} + {{\left({{y_j} - {y_i}} \right)}^2}} $ (4)

式中,$D′$表示每个像元点与周围种子点的距离,$S$为初始化分割超像元的步长,$h$$a$$b$分别为CIELab中的3个颜色空间,$d_{c}$代表颜色距离,$d_{s}$代表空间距离,$m$为固定常数(一般取10)。

4) 重复步骤3)直至每个像元点的聚类中心不再发生变化。实验发现,经过10次迭代后,SLIC在绝大多数图像上均取得理想效果,所以本文迭代次数取10。

5) 利用一张元素均为-1的标记表,按照“Z”型走向将不连续的超像元、尺寸过小的超像元重新分配给近邻的超像元,以解决多连通情况、超像元尺度过小以及单个对象被切割成多个不连续超像元的问题,增强连通性。

当单幅遥感影像中总超像元个数较少时,单个超像元的尺寸较大,较小的地物被漏检的概率较大;当单张遥感影像中总超像元个数较多时,单个超像元的尺寸较小,超像元缺乏地物特征信息,不同时相对应超像元间变化检测时往往发生错检,并且影像中地物大小不一,单个超像元尺度会对地物分割造成很大误差。基于以上问题,采用多超像元尺度分割算法,并结合举手表决算法解决分割过程中不同时相影像的超像元数量、形状以及边界不一致等问题,实现本文MPFF-CNN-SP算法。MPFF-CNN-SP算法执行过程如下:

输入:两个时相高分辨率遥感变化检测数据${\mathit{\boldsymbol{X}}}$

输出:变化检测结果$Y $

1) 按照样本选取规则,从${\mathit{\boldsymbol{X}}}$中对应选取少量像元,取其邻域为样本${\mathit{\boldsymbol{x}}}$,训练MPFF-CNN,得到测试数据初步变化检测结果$Y^{\rm c}$

2) 对${\mathit{\boldsymbol{X}}}$中的每个时相数据使用多尺度分割的SLIC算法得到超像元分割图像集${\mathit{\boldsymbol{O}}}= \{{\mathit{\boldsymbol{o}}}_{1}, {\mathit{\boldsymbol{o}}}_{2}, …, {\mathit{\boldsymbol{o}}}_{m} \}$${\mathit{\boldsymbol{o}}}_{i}=\{o^{1}_{i}, o^{2}_{i}\},o^{t}_{i}$表示第$t$个时相影像在$i$的分割尺度下的分割影像,$i$∈[1, $m$],$m$为多尺度分割的尺度数量,$t$代表遥感影像的时相。

3) 对应$o^{t}_{i}$中各超像元区域,计算$Y^{c}$中各对应区域的变化像元和未变化像元数量,并根据举手表决算法,以数量多的类别的像元值替换该区域的全部像元值,结果记为$Y^{t}_{i}$,表示第一次举手表决后带第$t$个时相第$i$个分割尺度的结果。同样地,对所有${\mathit{\boldsymbol{O}}}$进行以上操作,得到结果${\mathit{\boldsymbol{Y}}}^{o} = \{{\mathit{\boldsymbol{Y}}}^{o}_{1}, {\mathit{\boldsymbol{Y}}}^{o}_{2}, …, {\mathit{\boldsymbol{Y}}}^{o}_{m}\}$,其中,${\mathit{\boldsymbol{Y}}}^{o}_{i}=\{Y^{1}_{i},Y^{2}_{i}\}$

4) 在光谱维堆叠$t$个时相的${\mathit{\boldsymbol{Y}}}^{o}$,得到一个$t $× $m$层光谱的数据,并统计每条光谱中变化像元数量和未变化像元数量,根据举手表决算法,以数量多的类别的像元值为该像元位置的变化情况,得到最终变化检测结果$Y $

2 实验与分析

变化检测的对比实验算法包括模糊C均值算法(fuzzy C-means,FCM)、支持向量机(support vector machine,SVM)、DBN(Gong等,2016)和LSTM(Lyu等,2016),以漏检率、虚警率、正确率、Kappa系数作为算法比较的评价标准,其中漏检率和虚警率以小为优,正确率和Kappa系数则越大越好,验证本文提出方法的有效性。

本文提出的MPFF-CNN算法将参数优化器、损失函数和激活函数分别设为常用的Adam优化器($β_{1}=0.9$$β_{2}=0.999$$ε=10^{-8}$)、交叉熵损失(cross entropy loss)函数和ReLU函数(Kingma和Ba,2015Mou等,2019)。由于模型训练集数量少,且切片的尺寸较小,所以设置较小的初始学习率0.000 1,并采用学习率衰减策略来调整学习率,迭代大小为10,学习率衰减系数为0.9,权重衰减系数为0.005,迭代200次结束训练。SLIC算法由已有的python库中skimage模块实现,高斯平滑核宽、最大迭代次数等超参数均为默认值。实验环境如下:操作系统为Ubantu,GPU为GTX 1060 6 GB,深度学习框架为Pytorch。

2.1 实验数据

实验数据包括广东变化检测数据集(Guangdong change detection dataset,GDCD)和香港变化检测数据集(Hong Kong change detection dataset, HKCD)。广东变化检测数据分别为2014年和2017年高分一号卫星数据,由全色数据与多光谱数据融合而成,空间分辨率为2 m,包含红、绿、蓝3个波段。根据先验知识和详细视觉分析,在配准的广东多时相数据集上选取一块480×480像素的区域进行手动注释,其中包含草地退化区域、建筑物颜色暗化区域等,如图 3所示。

图 3 广东变化检测数据集
Fig. 3 Guangdong change detection dataset((a) data in 2014; (b) data in 2017; (c) ground truth)

HKCD取自Onera变化检测数据集(Onera satellite change detection dataset,OSCD),是公开的哨兵2号卫星变化检测数据,HKCD包含红、绿、蓝3个波段,空间分辨率为10 m,大小为540×695像素,覆盖范围约38 km2,如图 4所示。

图 4 香港变化检测数据集
Fig. 4 Hong Kong change detection dataset((a) data in 2016; (b) data in 2018; (c) ground truth)

根据1.2.1节的样本选取方式,分别在GDCD和HKCD上随机选取多个像元作为训练样本,其他像元为测试区域,定量评估本文算法以及对比算法的表现,为更有利于评估算法的优劣性,将训练集和测试集的数量限定在一个较大的比例范围,训练样本和测试样本数量如表 1所示。

表 1 GDCD和HKCD数据集中训练和测试样本数量
Table 1 Number of training and test samples in GDCD and HKCD datasets

下载CSV
类别 GDCD数据集 HKCD数据集
训练集 测试集 训练集 测试集
未变化 1 500 213 022 3 000 359 921
变化 1 500 17 378 3 000 11 379
合计 3 000 230 400 6 000 375 300

2.2 实验结果分析

2.2.1 切片尺度分析

为了验证切片尺度对变化检测精度的影响,分别利用DBN、LSTM、CNN模型以及两个变化检测数据GDCD和HKCD进行实验,其中不同的CNN模型对应不同的切片尺度,DBN和LSTM不需要考虑模型的变更,仅调整模型输入的大小。图 5给出了切片尺度$ω$为5、7、9时的CNN模型,该模型由$n$层3×3卷积层(包括卷积层、batchnormal层、ReLU激活函数)和单层1×1卷积层(包括卷积层、ReLU激活函数)构成,其中$ω=$2$n+$1。实验结果如图 6图 7所示。从实验结果中可以得到以下结论:1)变化检测的实验结果与$ω$的大小直接相关,各个算法均得到大致相同的规律,即正确率和Kappa系数随着$ω$的增大先升高后下降,漏检率和虚警率随着$ω$的增大先降低再升高。出现以上现象的原因可能是$ω$过小的切片缺乏空间邻域信息,$ω$过大的切片容易导致模型过拟合,适当的$ω$才能保证模型的有效性;2)在某一尺度下,变化检测的4个评价指标并不是比另一尺度的4个评价指标都表现要好或者不好。例如图 6(a)中在$ω$=9的情况下虚警率、正确率、Kappa系数均表现最优,反而漏检率表现最差;再如图 7(c)中,$ω$=3的正确率相比$ω$=5的正确率要高,反而$ω$=3的Kappa系数却很低。造成以上问题的原因可能是某一切片尺度缺乏某个评价指标所需的特征信息,所以在该指标下表现较差。CNN融合前($ω $= 5,7,9)和融合后的变化检测精度如表 2所示。可以看出,在GDCD数据集上,MPFF-CNN算法的Kappa系数表现最好,正确率以及虚警率与其他3种卷积模型表现最好的结果基本一致;在HKCD数据集上,虚警率、正确率以及Kappa系数均表现最优,漏检率也相对较小。综合以上分析,本文认为并不存在一个切片尺度使变化检测的各项指标均能达到最优,多个切片的尺度进行融合反而能提取更有用的特征,取得更好的效果。

图 5 不同切片尺度对应的CNN模型
Fig. 5 CNN model corresponding to different patch size ((a) $n$=2; (b) $n$=3; (c) $n$=4)
图 6 GDCD数据集中切片尺度与变化检测精度关系
Fig. 6 Relations between patch size and change detection accuracies for GDCD dataset ((a) CNN; (b) DBN; (c) LSTM)
图 7 HKCD数据集中切片尺度与变化检测精度关系
Fig. 7 Relations between patch size and change detection accuracies for HKCD dataset ((a) CNN; (b) DBN; (c) LSTM)

表 2 GDCD和HKCD数据集中不同卷积层和MPFF-CNN的变化检测结果
Table 2 Accuracy comparison of CNN with different layers of kernels and MPFF-CNN for GDCD and HKCD datasets

下载CSV
方法 GDCD数据集 HKCD数据集
漏检率 虚警率 正确率 Kappa 漏检率 虚警率 正确率 Kappa
CNN ($ω $= 5) 0.140 0.062 0.931 0.619 0.069 0.104 0.897 0.356
CNN ($ω $= 7) 0.153 0.042 0.95 0.69 0.023 0.05 0.951 0.567
CNN ($ω $= 9) 0.263 0.018 0.964 0.723 0.003 0.04 0.962 0.632
MPFF-CNN 0.242 0.019 0.963 0.739 0.004 0.024 0.976 0.740
注:加粗字体为每列最优值。

2.2.2 超像元个数敏感度分析

本文设置6个超像元尺度${\mathit{\boldsymbol{P}}}$进行多尺度分割,${\mathit{\boldsymbol{P}}}$={$N$/${\mathit{\boldsymbol{S}}}$, ${\mathit{\boldsymbol{S}}}$=3×3, 5×5, 7×7, 9×9, 11×11, 13×13},其中$N$为分割影像的总像元个数,${\mathit{\boldsymbol{S}}}$为用于确定超像元分割尺度大小的参数(接近超像元尺寸大小),两个测试集的超像元分割详细信息如表 3所示。

GDCD和HKCD数据集不同时相单一超像元尺度下的变化检测精度以及所有超像元尺度融合后(MPFF-CNN-SP)的变化检测精度如表 4表 5所示,从中可以得出以下结论:1)正确率和Kappa系数随超像元数量增加先提高后降低,漏检率随超像元数量增加而降低,虚警率随超像元数量增加而升高。造成上述现象的原因可能是超像元个数$p$过小时,超像元较大,容易使较小的变化地物漏检;$p$过大时,超像元较小,即变化检测分析单元较小,抗干扰能力降低,造成虚警率提高;2)两个时相6个超像元尺度举手表决后的变化检测结果优于单一尺度的变化检测结果,如表 4多超像元尺度融合的结果中漏检率、正确率和Kappa均表现最优,虚警率相对较优;表 5多超像元尺度融合的结果中虚警率、正确率和Kappa系数表现最优,漏检率相对较优。

表 3 GDCD和HKCD数据集中超像元大小与数量关系
Table 3 Relations between superpixel sizes and number of superpixels for GDCD and HKCD datasets

下载CSV
超像元大小 超像元数量
GDCD数据集 HKCD数据集
3×3 25 600 41 700
5×5 9 216 15 012
7×7 4 702 7 659
9×9 2 844 4 633
11×11 1 904 3 102
13×13 1 363 2 221

表 4 GDCD数据集中不同超像元尺度与变化检测精度的关系
Table 4 Relations between different number of superpixels and change detection accuracy for GDCD dataset

下载CSV
超像元设定个数 2014年数据 2017年数据 2014年和2017年数据
漏检率 虚警率 正确率 Kappa 漏检率 虚警率 正确率 Kappa 漏检率 虚警率 正确率 Kappa
25 600 0.236 0.018 0.961 0.722 0.234 0.018 0.962 0.729
9 216 0.26 0.017 0.962 0.751 0.24 0.017 0.962 0.758
4 702 0.282 0.019 0.96 0.736 0.269 0.018 0.96 0.731 - - - -
2 844 0.309 0.018 0.956 0.714 0.289 0.017 0.959 0.724
1 904 0.336 0.016 0.957 0.708 0.348 0.015 0.958 0.706
1 363 0.382 0.013 0.958 0.694 0.361 0.015 0.958 0.679
多尺度 - - 0.138 0.017 0.973 0.8
注:加粗字体为每个评价指标最优值,“-”代表无数据。

表 5 HKCD数据集中不同超像元尺度与变化检测精度的关系
Table 5 Relations between different number of superpixels and change detection accuracy for HKCD dataset

下载CSV
超像元设定个数 2016年数据 2018年数据 2016和2018年数据
漏检率 虚警率 正确率 Kappa 漏检率 虚警率 正确率 Kappa 漏检率 虚警率 正确率 Kappa
41 700 0.035 0.02 0.979 0.757 0.033 0.02 0.979 0.759
15 012 0.074 0.017 0.981 0.77 0.072 0.163 0.982 0.775
7 659 0.122 0.015 0.981 0.755 0.102 0.014 0.983 0.779 - - - -
4 633 0.184 0.014 0.98 0.735 0.145 0.013 0.982 0.762
3 102 0.208 0.013 0.98 0.731 0.183 0.012 0.982 0.756
2 221 0.279 0.011 0.979 0.7 0.224 0.011 0.981 0.732
多尺度 - - 0.081 0.011 0.986 0.821
注:加粗字体为每个评价指标最优值,“-”代表无数据。

2.2.3 变化检测结果分析

MPFF-CNN-SP以及对比实验的变化检测精度和变化检测结果如表 6图 8图 9所示,从中可以得出以下结论:SVM和FCM等传统算法在高分辨率遥感影像变化检测时结果精度较低,LSTM和DBN等经典深度学习算法相较于传统算法效果提升明显,而MPFF-CNN的变化检测结果强于DBN和LSTM,说明MPFF-CNN可以更加充分提取切片的空间邻域信息和其他有效特征;MPFF-CNN-SP的Kappa系数、正确率、虚警率均高于MPFF-CNN,并从实验结果图可以发现MPFF-CNN-SP能有效识别同物异谱和异物同谱区域,证明了MPFF-CNN-SP可以有效将单个地物中的多个切片特征融合在一起,实现超像元级特征域的变化检测。

表 6 各类方法在GDCD和HKCD数据集中的变化检测精度
Table 6 Accuracy of change detection for GDCD and HKCD datasets

下载CSV
方法 GDCD数据集 HKCD数据集
漏检率 虚警率 正确率 Kappa 漏检率 虚警率 正确率 Kappa
FCM 0.522 0.389 0.6 0.031 0.314 0.554 0.454 0.016
SVM 0.189 0.095 0.897 0.502 0.379 0.095 0.898 0.263
DBN 0.111 0.085 0.913 0.563 0 0.041 0.96 0.624
LSTM 0.147 0.079 0.915 0.561 0.019 0.025 0.923 0.564
MPFF-CNN 0.242 0.019 0.963 0.739 0.004 0.024 0.976 0.74
本文 0.138 0.017 0.973 0.8 0.081 0.011 0.986 0.821
注:加粗字体为每列最优值。
图 8 GDCD数据集变化检测结果
Fig. 8 Results of change detection for GDCD dataset ((a) FCM; (b) SVM; (c) DBN; (d) LSTM; (e) MPFF-CNN; (f) MPFF-CNN-SP; (g) ground truth)
图 9 HKCD数据集变化检测结果
Fig. 9 Results of change detection for HKCD dataset ((a) FCM; (b) SVM; (c) DBN; (d) LSTM; (e) MPFF-CNN; (f) MPFF-CNN-SP; (g) ground truth)

3 结论

高分辨率遥感影像为变化检测提供了海量图像数据,但随着分辨率的提高,影像中表现出的地物类型增多,且繁杂多样,不仅不同时相中相同地物的空间纹理存在很大差异,而且单一时相中同类地物也存在较大差异的空间纹理信息,上述问题使传统的像元级和特征级变化检测算法面临巨大压力。为此,本文提出了结合深度学习和超像元分割的变化检测算法。其中,深度学习主要用于高分辨率影像中复杂地物的特征提取,使检测单元由像元转化为特征;超像元分割可以有效融合同质地域的空间信息,将检测单元由特征转向超像元,抑制同物异谱带来的问题。实验表明,本文算法的变化检测精度优于其他相关算法,可以得到更好的变化检测结果。在未来的研究中,自动化的切片尺度选择将是讨论的重点之一,同时将进一步尝试结合边缘检测来解决多尺度分割后边缘信息损失严重的问题。

参考文献

  • Achanta R, Shaji A, Smith K, Lucchi A, Fua P, Süsstrunk S. 2012. SLIC superpixels compared to state-of-the-art superpixel methods. IEEE Transactions on Pattern Analysis and Machine Intelligence, 34(11): 2274-2282 [DOI:10.1109/TPAMI.2012.120]
  • Bruzzone L, Prieto D F. 2000. Automatic analysis of the difference image for unsupervised change detection. IEEE Transactions on Geoscience and Remote sensing, 38(3): 1171-1182 [DOI:10.1109/36.843009]
  • Celik T. 2009. Unsupervised change detection in satellite images using principal component analysis and k-means clustering. IEEE Geoscience and Remote Sensing Letters, 6(4): 772-776 [DOI:10.1109/LGRS.2009.2025059]
  • Daudt R C, Le Saux B and Boulch A. 2018. Fully convolutional siamese networks for change detection//Proceedings of the 25th IEEE International Conference on Image Processing (ICIP). Athens, Greece: IEEE: 4063-4067[DOI: 10.1109/icip.2018.8451652]
  • Del Frate F, Ortenzi A, Casadio S, Zehner C. 2002. Application of neural algorithms for a real-time estimation of ozone profiles from GOME measurements. IEEE Transactions on Geoscience and Remote Sensing, 40(10): 2263-2270 [DOI:10.1109/TGRS.2002.803622]
  • El Amin A M, Liu Q and Wang Y. 2016. Convolutional neural network features based change detection in satellite images//Proceedings of SPIE 10011, First International Workshop on Pattern Recognition. Tokyo, Japan: SPIE: 100110W[DOI: 10.1117/12.2243798]
  • Gong M G, Zhao J J, Liu J, Miao Q G. 2016. Change detection in synthetic aperture radar images based on deep neural networks. IEEE Transactions on Neural Networks and Learning Systems, 27(1): 125-138 [DOI:10.1109/TNNLS.2015.2435783]
  • Hall O, Hay G J. 2003. A multiscale object-specific approach to digital change detection. International Journal of Applied Earth Observation and Geoinformation, 4(4): 311-327 [DOI:10.1016/S0303-2434(03)00010-2]
  • Hao M, Shi W Z, Zhang H, Li C. 2014. Unsupervised change detection with expectation-maximization-based level set. IEEE Geoscience and Remote Sensing Letters, 11(1): 210-214 [DOI:10.1109/LGRS.2013.2252879]
  • Hou B, Wang Y H, Liu Q J. 2017. Change detection based on deep features and low rank. IEEE Geoscience and Remote Sensing Letters, 14(12): 2418-2422 [DOI:10.1109/LGRS.2017.2766840]
  • Kingma D P and Ba L J. 2015. Adam: a method for stochastic optimization[EB/OL].[2019-07-01]. https://arxiv.org/pdf/1402.6980.pdf
  • Liu J, Gong M G, Qin K, Zhang P Z. 2018. A deep convolutional coupling network for change detection based on heterogeneous optical and radar images. IEEE Transactions on Neural Networks and Learning Systems, 29(3): 545-559 [DOI:10.1109/TNNLS.2016.2636227]
  • Lyu H, Lu H, Mou L C. 2016. Learning a transferable change rule from a recurrent neural network for land cover change detection. Remote Sensing, 8(6): 506 [DOI:10.3390/rs8060506]
  • Mou L C, Bruzzone L, Zhu X X. 2019. Learning spectral-spatial-temporal features via a recurrent convolutional neural network for change detection in multispectral imagery. IEEE Transactions on Geoscience and Remote Sensing, 57(2): 924-935 [DOI:10.1109/TGRS.2018.2863224]
  • Ru H, Yang X L, Peng D Q and Huang P P. 2014. Superparsing based change detection in high resolution remote sensing imagery//Proceedings of the 12th International Conference on Signal Processing (ICSP). Hangzhou, China: IEEE: 996-999[DOI: 10.1109/ICOSP.2014.7015154]
  • Sui H G, Feng W Q, Li W Z, Sun K M, Xu C. 2018. Review of change detection methods for multi-temporal remote sensing imagery. Geomatics and Information Science of Wuhan University, 43(12): 1885-1898 (眭海刚, 冯文卿, 李文卓, 孙开敏, 徐川. 2018. 多时相遥感影像变化检测方法综述. 武汉大学学报(信息科学版), 43(12): 1885-1898) [DOI:10.13203/j.whugis20180251]
  • Wang C Y, Chen J Z, Li W. 2014. Review on superpixel segmentation algorithms. Application Research of Computers, 31(1): 6-12 (王春瑶, 陈俊周, 李炜. 2014. 超像素分割算法研究综述. 计算机应用研究, 31(1): 6-12) [DOI:10.3969/j.issn.1001-3695.2014.01.002]
  • Zhang X L, Chen X W, Li F, Yang T. 2017. Change detection method for high resolution remote sensing images using deep learning. Acta Geodaetica et Cartographica Sinica, 46(8): 999-1008 (张鑫龙, 陈秀万, 李飞, 杨婷. 2017. 高分辨率遥感影像的深度学习变化检测方法. 测绘学报, 46(8): 999-1008) [DOI:10.11947/j.AGCS.2017.20170036]