空谱融合下局部判别嵌入核协同表示的高光谱图像分类算法

曹意唱 闫德勤 陈浪 刘德山

摘  要：协同表示分类方法已经被越来越多地应用在高光谱图像分类中，但协同表示方法因重视稀疏性忽略局部性而不能充分地刻画高光谱图像特征，导致分类精度不高。针对这一问题，提出了空谱融合下局部判别嵌入核协同表示方法（LPKCRC）。首先，利用空谱特征学习模型对高光谱图像进行特征学习;其次，利用图嵌入矩阵提取数据局部几何结构和局部判别信息，并将其作为流行正则项引入CRC中，同时利用核的特性对高光谱数据进行核映射。实验结果证明，该算法在Indian Pines和Salinas两个高光谱数据集分类结果中都优于其他相应的算法，能够提高分类准确率。

关键词：核协同表示;局部流形结构;空谱特征学习;高光谱图像;稀疏性

中图分类号：TP181     文献标识码：A

A Hyperspectral Image Classification Algorithm under Space Spectrum Fusion for

Local Projections Embedding Kernel Collaborative Representation

CAO Yichang， YAN Deqin， CHEN Lang， LIU Deshan

（College of Computer and Information Technology， Liaoning Normal University， Dalian 116081， China）

1352499417@qq.com; yandeqin@163.com; chenlangstudy@163.com; deshanliu@yeah.net

Abstract： Collaborative representation classification methods have been increasingly applied to hyperspectral image classification. However， collaborative representation methods fail to describe characteristics of hyperspectral images as they emphasize sparsity and ignore locality， which leads to low classification accuracy. To solve this problem， this paper proposes a Locality Projections Kernel Collaborative Representation Classification （LPKCRC） method  under space spectrum fusion. Firstly， learning model of space spectrum features is used to learn the feature of hyperspectral images; secondly， graph embedded matrix is used to extract local geometric structure and local discriminant information of the data， which is introduced into CRC （Collaborative Representation Classification） as a popular regular term. At the same time， kernel mapping is performed on hyperspectral data using the kernel characteristics. Experimental results prove that the proposed algorithm is superior to other corresponding algorithms in classification results of Indian Pines and Salinas hyperspectral data sets， and it can improve the classification accuracy.

Keywords： kernel collaborative representation; local manifold structure; space spectrum feature learning; hyperspectral

image; sparsity

1   引言（Introduction）

高光譜图像分类的主要应用之一是地物识别[1]。由于高光谱图像本身的特殊性，其成像的方式为多光谱，像素的空间关系和光谱关系相互影响，在分类的过程中也面临着类别边缘以及相邻像素相互影响的问题。

近年来，在稀疏表示分类SRC[2]的基础上，正则协同表示分类（CRC）方法将其中的L1范数改为L2范数，被学者们应用在高光谱图像分类中，如侯良国等[3]。传统的协同表示算法在图像分类方面取得了很好的效果，但它们通常不能确保局部保存，因此不是最佳的。其数据可能由于非线性流形嵌入而在非常高维的环境空间[4]上，导致算法的分类性能下降。

此外在稀疏编码和字典学习中，数据的局部性信息一直是一个关键问题。局部性能够导致稀疏性，但稀疏性却不能导致局部性[5]，因此局部性比稀疏性更为重要。针对CRC在高光谱图像分类中未充分重视像素间局部信息，不能充分刻画图像特征的问题，我们提出了空谱融合下局部判别嵌入核协同表示的高光谱图像分类方法（LPKCRC）。LPKCRC将高光谱图像数据样本的几何结构信息和判别信息引入KCRC模型中，提高了协同表示算法的分类能力。

本文提出的算法的主要贡献在于：

（1）在考虑到空间和光谱信息刻画的同时，引入图嵌入矩阵到优化目标函数的正约束中，更加清晰地提取边缘特征。

（2）计算了原子之间的局部相似性，以反映学习字典的局部几何性质;然后利用自动学习策略构造原子的局域约束，从而继承训练样本的流形结构。

2   研究基础（The basic research）

2.1   空谱特征学习（SSN）

我们在运用LPKCRC对高光谱遥感图像分类之前，首先使用空谱特征学习模型（SSN）[6-7]获取高光谱图像的空谱联合特征。SSN可以在去除噪声的同时保持图像整体结构，从而更加清晰地提取高光谱图像特征。SSN在学习阶段是由多个学习的单元（SSFLU）构成的一个多层深度学习网络。如图1所示，每一层是一个SSFLU，一个SSFLU由两部分组成：分别学习光谱特征和空间特征[7]。利用线性判别分析（LDA[8]）能够实现光谱特征的学习。使用LDA，可将高光谱图像在光谱维度进行降维处理，同时可以最大区分不同类别的类间信息。使用多个不同尺度的自适应空间滤波器（AWF）[6-7]对LDA的处理结果进行空间滤波，能够获得图像中同一区域的不同尺度表示，将高光谱图像的空谱信息和光谱信息融合在一起。

2.2   局部流形结构

为了在有限的高光谱图像数据样本下提高图像的分类结果，我们将采用Locality Preserving Projections（LPP）算法[9]获取数据样本的几何结构和判别信息。HE等人[9]在Locally  Embedding（LE）算法[10]的基础上提出了LPP算法。LPP算法的主要思想是，原始空间中相邻的像素点降维后，在低维空间中也保持高维空间中的局部结构。

对于给定数据集，为数据样本的维数，表示数据样本的个数。LPP的目标函数如下：

（1）

为数据集的低维嵌入，，和分别为第个样本和第个样本的低维表示。假设为投影向量，就有经过简单变换之后，目标函数变为：

（2）

其中，，为对角矩阵，对角元素为相似度矩阵对应的列或行上的元素之和（为对称阵）;，被称作拉普拉斯矩阵。注意约束式是为了避免这个解。上述的约束问题可以转换为一个广义特征值问题得到解：

（3）

故上述特征方程的个最小特征值，对应特征向量，以及构成保持近邻相似度特性的线性变换矩阵：

（4）

LPP通过构建高维空间中各像素点间的不同距离位置关系，在投影中保持这种关系。降维后仍旧保持原来的近邻结构，同时尽量避免样本集的发散，在图像领域中有着广泛的应用。

3   LPKCRC算法（LPKCRC algorithm）

3.1   協同表示分类（CRC）

协同表示分类更注重协同性而并非稀疏性，因此利用范数L2进行约束[3]。协同表示模型可利用全部的训练字典原子重建给定的测试像元。对于测试像元，寻找对应的权重向量，需要同时满足重建误差最小和约束条件最小，可以表示为：

（5）

式中，为惩罚参数，其功能是平衡重建误差和范数项。通过二范数正则化项对表示系数进行约束，可以促使全部的字典原子均参与测试像元的重建。求取式（5）关于表示协同向量的导数，可以得到式（5）的解析解：

（6）

式中，表示单位矩阵，定义矩阵的转置操作。

当解析地获取到表示系数向量，可以计算像元和其类依赖近似字典的最小逼近残差：

（7）

像元的地物类别可由公式（7）计算得到。

3.2   核协同表示分类（KCRC）[11]

高光谱图像的不同特征通道通常是线性不可分离的，而典型的线性稀疏表示模型无法充分表示高光谱数据样本的非线性结构特征。文献[11]中给出的一种核协同表示算法（KCRC）可以解决非线性问题。其中协同表示的计算公式为：

（8）

在式（8）中，和表示核Gram矩阵，其中每个元素。

3.3   空谱结合下局部判别嵌入核协同表示算法（LPKCRC）

在本节中我们提出空谱结合下局部判别嵌入核协同表示的分类方法（LPKCRC）。由上文可知，图的拉普拉斯矩阵通过构建高维空间中各像素点间的不同距离位置关系，在投影中保持这种关系。其降维后仍旧保持原来的近邻结构，同时尽量避免样本集的发散，得到更具有判别性的特征向量，提高分类的准确性。因此，我们将图的拉普拉斯矩阵作为流形正则项引入KCRC中，提高KCRC在高光谱图像分类中的准确性。LPKCRC函数如式（9）所示：

（9）

在式（9）中，为流形正则项，为正则化参数，为惩罚参数，;为对角矩阵，对角元素为相似度矩阵对应的列或行上的元素之和（为对称阵）;。

在KCRC中，我们采用核方法进行求解[11]。高斯径向基核函数（Gaussian Radial Basis Function Kernel）即所采用的核函数，简称为Gaussian核，其可通过如下等式定义：

（10）

式中，定义高斯核函数的频带宽度，其功能是控制高斯核函数的平滑度。则协同系数可以表示为：

（11）

求取式（11）关于表示系数向量的导数，可以解析地得到核特征空间中表示系数向量：

（12）

用公式（13）计算最小逼近残差：

（13）

当获取到核特征空间中的表示系数向量，依据核诱导特征空间中最小残差准则可以确定地物的类别信息。基于以上的研究思路，我们提出LPKCRC算法，即空谱联合的高光谱遥感图像分类算法，其具体步骤如下：

输入：SSN特征提取后的高光谱数据集。

步骤1：依据公式（1）—（4）计算拉普拉斯矩阵;

步骤2：通过公式（9）—（12）计算协同系数;

步骤3：通过公式（13）得到最小逼近残差，然后运用训练好的LPKCRC算法对高光谱图像测试集进行预测，得到测试集的预测标签。

输出：测试数据集的预测标签。

4  实验结果与分析（Experimental results and analysis）

为了验证本文算法的有效性，我们在两个高光谱图像数据集上进行实验，分别为Salinas数据集和Indian Pines数据集。

4.1   实验参数设置及评价指标

我们使用上文描述的数据集进行LPKCRC与经典分类器的对比实验，如SRC[2]、KSRC[12]、KCRC[11]、KSVM[13]、SVMCK[14]、JSRC[15]、MFASR[16]、JSaCR[17]算法。对于Salinas和Indian Pines的数据设置，在文献[6]中给出的特征提取算法用于获取每个样本的特征，然后将特征用作分类算法的输入数据。在Salinas数据集上，我们随机选择每个类别的5%的标记样本进行训练，剩余样本用于测试;在Indian Pines数据集上，我们随机选择每个类别的10%的标记样本进行训练，剩余样本用于测试。

本文使用总体分类精度（OA）、平均分类精度（AA）和Kappa系数三个指标来评估最终的分类结果。

4.1.1   在Salinas数据集上的实验结果

表1给出了九种不同算法在Salinas数据集上的OA、AA和Kappa系数，黑体表示最好的结果。从表1中我们可以看出，LPKCRC算法在OA、AA和Kappa系数上均优于其他八种算法。

图2显示了九种算法的分类结果图。从分类结果图可以看到，本文算法LPKCRC的分类效果最好。

4.1.2   在Indian Pines数据集上的实验结果

不同分类算法在Indian Pines数据集上的分类结果如表2所示。表2给出了九种不同算法在Indian Pines数据集上的每类OA、AA和Kappa系数，黑体表示最好的结果。从表2中我们可以看到，本文算法在OA、AA和Kappa系数上均优于其他八种算法。

通过上述分析可见，本文算法在高光谱图像分类任务中取得了良好的结果，验证了本文算法的有效性。本文算法有效的原因在于，在有限的高光谱图像训练样本下，运用高光谱图像数据训练样本的几何结构信息和判别信息，为高光谱图像分类提供先验信息，增强高光谱图像的分类性能。

4.2   训练样本选取的影响

为了验证SRC、KSRC、KCRC 、KSVM、SVMCK、JSRC、MFASR、JSaCR，以及本文算法在不同訓练样本个数下的分类性能，我们分别在Salinas和Indian Pines两个数据集上进行实验。在Salinas数据集上分别随机选取该类样本数的0.5%、0.6%、0.7%、0.8%、0.9%、1%、2%、3%、4%、5%作为训练样本，每类剩下的样本做测试样本;在Indian Pines数据集上分别随机选取该类样本数的1%、2%、3%、4%、5%、6%、7%、8%、9%、10%作为训练样本，每类剩下的样本做测试样本。将实验的总体分类准确度作为评价指标，实验结果如图4所示。

（a）Salinas

（b）Indian Pines

图4 不同训练样本个数的影响

Fig.4 Influence of different training samples

由图4（a）的实验结果我们可以观察到，在Salinas数据集上，LPKCRC的OA指标识别曲线明显优于SRC、KSRC、KCRC、KSVM、SVMCK、JSRC、MFASR、JSaCR算法。由图4（b）我们可以明显观察到SRC、KSRC、KCRC三种算法在Indian Pines数据集上的OA识别曲线显著低于KSVM、SVMCK、JSRC、MFASR、JSaCR和LPKCRC等算法。这是由于SRC、KSRC、KCRC三种算法没有运用高光谱图像的空间信息造成的。

4.3   参数分析

在本节中，我们分析参数如何影响LPKCRC的性能。实验结果如图5和图6所示，显示了在参数和取不同值时对应的实验结果分类精度变化。

从图5可以看出，Salinas数据集上参数和的不同值带来不同的结果。当、时，算法的分类精度最高。

从图6可以看出，Indian Pines数据集上参数和的不同值带来不同的结果。当、时，算法的分类精度最高。

LPKCRC的性能可以通过改变参数进行调整。

5   结论（Conclusion）

本文提出了一种空谱融合下局部判别嵌入核协同表示的高光谱图像分类。创新之处在于考虑到高光谱图像数据的联系和差异信息，将高光谱图像的空间信息和光谱信息融合在一起，将图嵌入矩阵引入KCRC模型中，克服了KCRC算法不能充分刻画高光谱图像特征的问题。LPKCRC与SRC、KSRC、KCRC、KSVM、SVMCK、JSRC、MFASR、JSaCR算法的对比实验表明，本文所提出的方法显著提高了核协同表示分类在高光谱图像中的分类效果。

参考文献（References）

[1] BIOUCAS-DIAS J M， PLAZA A， CAMPS-VALLS G， et al. Hyperspectral remote sensing data analysis and future challenges[J]. IEEE Geoscience and Remote Sensing Magazine， 2013， 1（2）：6-36.

[2] WRIGHT J， YANG A， GANESH A， et al. Robust face recognition via sparse representation[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2009， 31（2）：210-227.

[3] 侯良国，向泽君，楚恒.加权融合核稀疏和协同表示的高光谱影像分类[J].计算机工程与设计，2019，40（04）：1058-1063.

[4] ROWEIS S T， SAUL L K. Nonlinear dimensionality reduction by locally linear embedding[J]. Science， 2000， 290（5500）：2323-2326.

[5] LI Z， LAI Z， YONG X， et al. A locality-constrained and label embedding dictionary learning algorithm for image classification[J]. IEEE Transactions on Neural Networks and Learning Systems， 2017， 28（2）：278-293.

[6] ZHOU Y， WEI Y. Learning hierarchical spectral-spatial features for hyperspectral image classification[J]. IEEE Transactions on Cybernetics， 2017， 46（7）：1667-1678.

[7] 王軍浩，闫德勤，刘德山，等.高光谱图像分类的融合分层深度网络联合稀疏表示算法[J].模式识别与人工智能，2020，33（4）： 303-312.

[8] BANDOS T V， BRUZZONE L， CAMPS-VALLS G. Classification of hyperspectral images with regularized linear discriminant analysis[J]. IEEE Transactions on Geoscience & Remote Sensing， 2009， 47（3）：862-873.

[9] HE X， NIYOGI P. Locality preserving projections[J]. Advances in Neural Information Processing Systems， 2003， 16（1）：186-197.

[10] BELKIN M， NIYOGI P. Laplacian eigenmaps and spectral techniques for embedding and clustering[J]. Advances in Neural Information Processing Systems， 2001， 14（6）：585-591.

[11] WANG D， LU H， YANG M H. Kernel collaborative face recognition[J]. Pattern Recognition， 2015， 48（10）：3025-3037.

[12] CHEN Y， NASRABADI N M， TRAN T D. Hyperspectral image classification via kernel sparse representation[J]. IEEE Transactions on Geoscience and Remote Sensing， 2013， 51（1）：217-231.

[13] WANG L， HAO S， WANG Q， et al. A Multiple-mapping kernel for hyperspectral image classification[J]. IEEE Geoscience and Remote Sensing Letters， 2015， 12（5）：978-982.

[14] HUANG H， DUAN Y， SHI G， et al. Fusion of weighted mean reconstruction and SVMCK for hyperspectral image classification[J]. IEEE Access， 2018， 6（15）：224-235.

[15] CHEN Y， NASRABADI N M， TRAN T D. Hyperspectral image classification using dictionary-based sparse representation[J]. IEEE Transactions on Geoscience and Remote Sensing， 2011， 49（10）：3973-3985.

[16] FANG L， WANG C， LI S， et al. Hyperspectral image classification via multiple-feature-based adaptive sparse representation[J]. IEEE Transactions on Instrumentation & Measurement， 2017， 66（7）：1646-1657.

[17] JIANG J， CHEN C， YU Y， et al. Spatial-aware collaborative representation for hyperspectral remote sensing image classification[J]. IEEE Geoscience and Remote Sensing Letters， 2017， 14（3）：404-408

作者简介：

曹意唱（1996-），女，硕士生.研究领域：机器学习，模式识别，遥感图像分类.

闫德勤（1962-），男，博士，教授.研究领域：机器学习，模式识别，遥感图像分类.

陈   浪（1993-），男，硕士生.研究领域：机器学习，模式识别.

刘德山（1970-），男，硕士，教授.研究领域：机器学习，模式识别，智能信息处理.