基于改进卷积神经网络的高光谱遥感影像分类算法

2023-09-12 00:50:32赵轩浩李欣竺王云浩
科学技术创新 2023年21期
关键词:光谱卷积分类

赵轩浩,李欣竺,王云浩

(核工业二四三大队,内蒙古赤峰)

引言

在遥感技术领域中,高光谱遥感技术是将由地物独特的物质组成所决定的光谱与反映地物形状、纹理和布局的空间图像有机结合,实现了对地物的准确检测、识别和空间特性分析的方法。因此产生的高光谱影像包含丰富的地面物体形状、布局和背景的光谱和空间信息。与多光谱图像和自然图像相比,由于具有独特的光谱特性,在HSI 上可以更准确地识别分类。在实际的高光谱影像分类中,高光谱数据人工标注费时费力。因此在有限标记样本条件下,充分利用高光谱数据中的光谱和空间信息进行高精度分类是主要的研究内容之一[1]。

1 高光谱遥感影像分类算法设计

1.1 融合遥感影像的光谱与空间特征

采用空间特征提取通道来利用目标像素周围的空间信息。该通道采用二维卷积层来更好地利用空间特征。与上面描述的光谱通道类似,每次卷积操作后应用激活函数。在空间分支中有一个卷积层和一个残差块。首先,输入的三维立方体经过1×1×200 卷积层,从一个具有多个波段的高光谱影像映射到一个只有一个光谱波段的灰度图像。该操作旨在迫使网络集中于检测空间域中的相关性。产生的7×7 块被传递到一个残差块,该残差块由两个连续的卷积层组成,具有24 个3×3 卷积核,能够强调重要的空间信息。

对于影像数据中所涵盖的光谱与空间特征的提取,将两者融合,用于将来自两个独立通道的信息组合在一起。通过光谱和空间分支分别处理后,光谱分支的输出与空间分支的输出相连接。因此,在连接128个7×7 块(光谱)和24 个7×7 块(空间)之后,总共获得了152 个块,其空间和光谱信息都很丰富。然后,具有7×7 核的平均池化层将二维矩阵映射到152 维向量中。然后,通过全连通层和激活函数得到分类结果[2]。

1.2 输入高光谱遥感影像样本空间领域

考虑到高光谱数据的三维结构以及高光谱数据的小样本问题,为了能够得到足够的信息量,这里对输入的样本点进行重采样处理。传统的基于像素点的分类中输入样本是基于一个像素点的一维向量,这里针对分辨率较高的高光谱数据将每个像素点附近k×k 大小的区域采样为一个样本,这种像素块的结构在原本光谱信息的基础上提供了丰富的空间信息,也在一定程度上缓解了因标注样本较少而带来的信息匾乏问题。输入影像块示意如图1 所示。

图1 输入影像块示意

针对高光谱训练样本有限的问题,结合输入样本数据的影像块结构应用了高光谱数据增强方法。结合光谱- 空间的融合特征,在空间中对高光谱遥感影像进行输入增强,进而更好地输入到空间领域中。

1.3 架构高光谱遥感影像半监督阶梯网络

自动编码器通常由无监督的预训练和有监督的微调组成,其中无监督的过程与有监督的过程是分开的。本文在阶梯网络的基础上,引用了经过改进的半监督阶梯网络,可在有监督和无监督的双重模式下进行样本训练,半监督阶梯网络结构如图2 所示。

图2 半监督阶梯网络结构

半监督阶梯网络的损失函数由每层构造的误差损失函数加权,并且自动编码器仅为解码部分的输出层构造损失函数。本文对半监督阶梯网络的实际实现方式如下:

首先,为了防止过拟合,有必要构建一个具有多个隐藏层的神经网络,因为过拟合的可能性更高;此外,需要在网络的每一层中应用批量标准化。其次,校正线性单元传递函数用于防止梯度消失。相应的公式如下:

高光谱影像包含丰富的空间信息与光谱信息,由于直接使用原始数据会导致“维度灾难”,所以使用主成分分析法对原始数据上的光谱维度进行预处理降维操作。采用混合光谱网络作为特征提取网络用来同时提取空间和光谱信息,完成对于半监督阶梯网络结构的架构[3]。

1.4 基于改进卷积神经网络聚合影像分类结构

通过当前节点与周围节点的光谱聚合来实现光谱- 空间特征的融合,而图卷积操作类似于低通滤波器,仅保留影像中的低频信息。为了保存影像中的高频细节信息,通过在图中设置边特征来保存影像中的边界信息。边特征在一定程度上缓解了信息聚合过程中的过度平滑问题。同时,边特征和节点特征的参数是可学习的,通过自动参数优化可以增强不同目标之间的光谱差异性[4]。

基于以上特点,本文利用了一种简单的信息传递策略来实现节点特征与边特征的融合。假设节点v 与邻居节点u∊N(v)进行信息聚合,信息构造函数可进行如下定义:

在高光谱遥感影像中,根据所需分类特征,在单一尺度上难以从影像中准确提取出不同尺度的地物。然而,信息聚合一般只考虑一阶邻居节点忽略了高阶邻居节点在高光谱分类中的重要性。为避免上述问题,进行卷积运算,其中,K 可看作卷积核的“感受野半径”,即以中心点的K 阶邻居节点作为邻域节点。

如果仅考虑了自身与其一阶邻居节点之间信息的聚集,几乎完全可以等价。但是仅依靠一阶节点的信息,对于光谱与空间信息的融合较为不利。与一阶邻居的聚合相比,二阶聚合增加了感受野的范围,更有利于高光谱影像的分类。

1.5 联合注意力机制完成高光谱遥感影像分类

卷积神经网络能够提取数据的大量深层特征,这包括数据在通道方向的特征和空间几何位置上的特征,在针对具体的分类任务时不同的特征所占的重要程度往往并不相同,如果能让网络把注意力都集中在这些对分类帮助较大的特征上就能够很好的改善网络的性能,因此本文联合注意力机制完成对于高光遥感影像的精细分类。

卷积注意力机制(CBAM)可以直接集成到许多经典的网络架构当中。对于输入特征图,CBAM 会在通道方向和空间方向上分别计算注意力权重,通过乘积运算得到加权后的特征图。CBAM机制可以与网络一起训练并且不会带来大量的额外计算量,可以有效改善网络的性能[5]。

由于输入样本数据的特征维度较高,针对这一特点使用三维卷积核来提取特征,并通过添加CBAM在通道和空间方向上引入注意力机制,为了降低网络模型的复杂度,只在残差部分的输入和输出两个位置添加了注意力机制。残差网络中提出了残差块的结构,通过跳跃连接将来自初始层的信息通过相加的方式传递到更深层,通过快捷连接将残差网络的输入与输出相连,在不引入额外的参数的条件下将输入的特征传递到输出,从而避免了网络模型的退化问题,也为构建更深层的神经网络模型带来了可能。

2 实验论证

使用WHU-HI 数据集,随机选取300 个训练样本,对输入样本进行空间邻域采样,将采样后的样本数据送入残差网络进行分类。设置本文的基于改进卷积神经网络的高光谱遥感影像分类算法为实验组,基于深度学习的高光谱遥感影像分类算法为对照组。高光谱数据采用主成分分析算法将其光谱维度降到15。实验的输入空间尺寸大小为25×25。所有实验均在配置有128 GB 内存的同一平台上执行,其中批量大小设置为200,每一个批块有100 个有标记样本和100个无标记样本构成。优化器设置为Adam,学习率为0.001,动量为0.9,学习率的更新采用自适应调整策略。两种高光谱遥感影像分类算法精度对比结果如表1 所示。

表1 高光谱遥感影像分类算法精度对比结果

根据表1 的结果可得,实验组在不同K 值下对于遥感影像的分类系数均比对照组要高,最后基于不同值下的分类精度为97.62%,高于对照组87.63%的分类精度,从这个结果可以看出本文所设计的分类算法,可在不同K 值下对高光谱遥感影像均有较高的分类精度。

结束语

本文对于高光谱遥感影像分类算法的设计,基于改进卷积神经网络。在对算法的分析过程中,通过对于遥感影像中空间和光谱特征的融合,结合其输入空间的向量,完成对于高光谱的分析,在卷积神经网络算法的改进中,对卷积神经中的注意力机制作了详细说明,以空间和通道的双重机制作为辅助,对高光谱影像的分类进行阐述。本文虽然以实验证明了算法中分类的有效性,但是研究中仍存在一定不足,这些问题将在之后的研究中做更为细致的分析。

猜你喜欢
光谱卷积分类
基于三维Saab变换的高光谱图像压缩方法
基于3D-Winograd的快速卷积算法设计及FPGA实现
分类算一算
从滤波器理解卷积
电子制作(2019年11期)2019-07-04 00:34:38
分类讨论求坐标
数据分析中的分类讨论
基于傅里叶域卷积表示的目标跟踪算法
教你一招:数的分类
星载近红外高光谱CO2遥感进展
中国光学(2015年5期)2015-12-09 09:00:28
苦味酸与牛血清蛋白相互作用的光谱研究