基于轻量化VGG16 和BCBAM 的电力设备故障红外图像诊断识别

于晓,庄光耀

（天津理工大学电气工程与自动化学院,天津 300384）

随着经济水平的不断提高,工农业生产、生活等用电需求与日俱增,电网规模不断扩大,对电力设备的安全可靠性提出了更高要求[1].为避免因电力设备故障而对生产和生活造成的严重损失[2]，快速准确地识别电力设备故障非常重要.电力设备发生故障时,常常出现异常发热现象,随着红外诊断技术的不断发展,红外技术在电力设备中的应用逐渐广泛[3].红外诊断技术可以直观地识别电力设备发热问题,能够对电力设备进行实时的、快速的、准确的故障诊断识别.但电力设备一般存在于背景复杂的发电厂、供电网环境中,所拍摄电力设备红外图像存在目标边缘模糊、轮廓不完整、设备重叠遮挡等复杂情况.虽然有经验的故障识别人员可以发现电力设备异常问题,但人工的故障诊断识别效率低；而传统的机器学习算法对复杂背景的噪声干扰的鲁棒性较差,因此较低的识别准确率和泛化能力难以实现针对电力设备红外图像故障的诊断识别.

基于深度学习算法的缺陷目标识别,利用CNN 网络的支持具有更好的泛化能力,可以学习和提取电力设备故障特征.针对电力设备的故障识别,国内外学者已做了大量研究[4].文献[5]提出了一种基于VGG16 模型的红外图像故障识别方法：首先使用VGG16 模型进行特征提取,然后采用支持向量机（SVM）对特征进行分类,最终实现红外图像的故障识别.文献[6]通过利用标准化和残差连接等技术改进了VGG16 模型的结构,提高了模型的性能和稳定性.文献[7]提出了一种利用深度卷积神经网络和图像增强技术进行红外图像缺陷识别的方法.文献[8]提出了一种基于多任务学习的电力设备红外图像故障识别方法,该方法能够有效地识别电力设备.文献[9]采用VGG16 网络进行特征提取,并采用最近邻分类器进行分类,以实现电力设备红外图像的缺陷识别.文献[10]采用了VGG16 模型提取特征,并通过优化网络参数和激活函数,提高了模型的识别性能和鲁棒性.文献[11]利用VGG-16 网络提取特征,并通过微调模型参数,提高了模型的识别性能.文献[12]以VGG16 为基础提出了一种基于加权损失函数的训练策略,以提高模型的识别性能和鲁棒性.文献[13]对VGG16 网络进行了改进,添加卷积层和全连接层,并通过数据增强和优化网络参数提高模型的识别性能和鲁棒性.文献[14]提出了一种基于VGG16 的新型网络架构,并采用集成学习的策略提高模型的识别性能和鲁棒性.文献[15]提出了一种基于迁移学习和多尺度特征融合的红外图像分类方法.该方法使用迁移学习,将经过大规模数据集训练的VGGNet 网络应用于红外图像分类,并且采用了一种基于多尺度卷积的特征融合方法,从而提高了图像分类的准确性.文献[16]提出了一种利用红外图像进行变压器绕组故障诊断的方法.该方法通过对红外图像进行分析,提取故障的特征,并采用支持向量机分类器对其进行分类诊断.文献[17]提出了一种针对高压绝缘子故障诊断的改进卷积神经网络方法.该方法通过对卷积神经网络的结构和训练策略进行改进,有效提高了故障诊断的准确性和鲁棒性.文献[18]提出了一种将改进的卷积神经网络用于红外图像分类的方法.该方法通过优化卷积神经网络的结构和训练策略,提高了红外图像分类的准确性和鲁棒性.文献[19]提出了一种基于通道注意力和空间注意力机制的红外小目标识别方法.该方法使用通道注意力机制提高目标特征的重要性,并进一步通过空间注意力机制优化识别效果.

电力设备在运行过程中存在多种变化,例如环境温度的变化、照明条件的变化、拍摄角度与距离的变化等,这些变化都会对红外图像造成一定程度的影响,高精度的网络模型太过繁琐、模型冗余,而一些追求识别速度的网络过于简单而导致模型的鲁棒性不足,从而影响故障识别的准确性.论文基于电力设备缺陷在红外图像中的实际特征,参考已有研究,提出了一种基于轻量化VGG16 和BCBAM的电力设备红外图像故障诊断识别算法.算法通过优化全连接层减少网络的计算量,同时将BCBAM注意力机制嵌套到网络模型中,从而提高算法故障诊断识别准确率.

1 问题分析

在当今社会,电力设备已经成为支撑国家经济和社会发展的重要基础设施之一.然而,由于电力设备长期运行和复杂的内部结构,其会出现各种各样的故障.这些故障不仅会影响电力设备的正常运行,还会对整个电网的安全和稳定性产生不良影响,甚至引发重大事故.因此,如何提高电力设备故障诊断的准确性和速度,已经成为当前电力领域研究的重点之一.

随着深度学习技术的不断进步,电力设备红外图像在电力设备故障诊断中的应用越来越受到重视.这种非接触、非破坏、高精度的技术能够准确反映电力设备的运行状态和故障信息.借助深度学习的优势,基于电力设备红外图像故障的诊断和识别已成为电力设备智能化维护领域的一个热门研究方向.图1 为电力设备红外图像.

由于电力设备本身的复杂性和特殊性, 电力设备红外图像故障识别一直面临着获取足够高质量数据样本的困难.目前提出的深度学习算法在解决这一困难时,高精度的网络模型往往过于复杂冗余,导致故障识别算法的计算复杂度较高,需要更长的训练时间和更多的计算资源；而一些旨在提高识别速度的网络则可能过于简单,无法很好地提取和分类电力设备缺陷的复杂特征,从而对故障识别的准确性产生一定的限制.因此本文考虑电力设备缺陷在红外图像中的特性,提出了一种基于轻量化VGG16 和BCBAM 的电力设备红外图像故障诊断识别算法.该算法通过优化全连接层,减少网络计算量,并将BCBAM注意力机制引入到轻量化VGG16 中.具体来说,一是引入归一化方法改进通道注意力模块和空间注意力模块,可以降低不太显著的特征的权重；二是在原本级联基础上结合网络特性以及处理过程,将链接方式改为并行,将网络结构与网络性能提升,从而提高算法故障诊断识别准确率,从而减少人力成本和时间成本,提高电力设备运行的效率和安全性.

2 BCBAM 注意力机制下轻量化VGG16 故障红外图像识别模型

本识别模型利用VGG16 的前三段卷积层强大的特征提取能力,通过将BCBAM注意力机制引入轻量化VGG16 的第三段卷积后,使两者深度融合,从而提高对故障的识别精度.整体模型结构如图2 所示.

图2 总体结构Fig.2 Overall structure diagram

2.1 轻量化VGG16 网络

VGGNet 是一种深度卷积神经网络,其中VGG16 是性能最佳的网络之一[20],其在2014 年的ImageNet图像分类比赛中获得第二名[21].本文提出的轻量化VGG16 网络包含15 个权重层,由5 段卷积层和1 段全连接层组成,共包含13 个卷积层和2 个全连接层.其结构示意如图3 所示.

图3 轻量化VGG16 网络结构Fig.3 The structure diagram of lightweight VGG16 network

轻量化VGG16 采用了5 段卷积层来提取图像的不同层次特征,每段卷积层包含2~3 个卷积层,每个卷积层后都采用ReLU 激活函数.ReLU 激活函数具有非线性特性,可以防止梯度消失和加快网络的训练速度.相比其他激活函数,ReLU 函数的优势在于它能够更好地减小反向传播误差,使网络更快地收敛,因此在网络训练过程中,选择ReLU 函数更加高效.公式如下

式（1）中：fReLU为ReLU函数计算结果；x表示接受区域的向量.

轻量化VGG16 由经典的深度卷积神经网络优化而来,用于图像分类和目标识别任务.它由5 段卷积层和2 个全连接层组成.每一段卷积层包含2 到3 个卷积层,采用3×3 的卷积核提取低、中、高各层的图像特征,并使用ReLU 激活函数增加非线性效果,减少过拟合.每段卷积的尾部都接一个2×2 的最大池化层,以减小误差和捕捉细节变化.为了减少计算量,将全连接层的数量从3 个优化为2 个.这些优化和设计使VGG16 网络能够更有效地进行特征提取和任务分类.

轻量化VGG16 网络通过逐层的特征学习,可以捕捉到输入特征的不同抽象层次,从而具有更强的非线性表达能力.这种深度网络可以更好地表示输入图像的复杂特征,提高分类精度.

2.2 BCBAM 模型

CBAM是一种简单有效的前馈卷积神经网络注意力模块,可以对中间特征图进行注意力计算,然后将注意力图应用于输入特征图以进行自适应特征优化.CBAM模块分别在通道和空间两个维度上计算注意力图,是一种轻量级通用模块,可以无缝地集成到各种卷积神经网络中,并与基础网络一起进行端到端的训练,具有很高的可扩展性和灵活性.CBAM结构如图4 所示.

图4 CBAM 结构Fig.4 CBAMStructure diagram

通道注意力模块是通过全局平均池化和全局最大池化得到一个1×1×C的特征图,然后将其输入到共享的多层感知机中进行处理,得到的多层感知机输出特征与Sigmoid 激活函数结合,获得通道权重Mc.将通道权重与输入特征F相乘,从而得到优化后的特征图.这个过程可以使用通道注意力公式来表示.由于通道注意力是一个轻量级的通用模块,因此可以方便地与各种CNN 架构结合使用,并在端到端训练过程中进行无缝集成.通道注意力的公式为

式（2）（3）中：σ 为Sigmoid激活函数,MLP为共享参数的感知器,GAP为全局平均池化,GMP为全局最大池化, ⊗为逐元素相乘.

与通道注意力模块不同,空间注意力模块先对输入特征进行全局平均池化和全局最大池化,然后将这两个池化结果拼接在一起.这个拼接的特征图会被送到卷积层,并经过Sigmoid激活函数得到空间权重系数Ms,然后将Ms与输入特征F1相乘,即可完成空间注意力的计算.这个计算过程可以用以下公式表示

式（4）（5）中：σ 为Sigmoid激活函数,conv为卷积核为7×7 的卷积操作；GAP为全局平均池化；GMP为全局最大池化；⊗ 为逐元素相乘.

为了避免模型精度下降、梯度消失、梯度爆炸等问题的出现,有效地节省网络计算量以及计算时长,本文提出了BCBAM注意力模块.

首先,在通道注意力模块和空间注意力模块中引入归一化方法,可以降低不太显著特征的权重,这种方式在注意力模块上应用了稀疏的权重惩罚,使这些权重在计算上更加高效,同时能够保持同样的性能.

对于通道注意力子模块,使用Batch Normalization 中的缩放因子,如下式所示

缩放因子是Batch Normalization（BN）中的方差,它能够反映出各个通道的变化大小,并反映该通道的重要性.方差越大,表示该通道的变化越剧烈,其中包含的信息也会更加丰富且重要性更高.反之,对于变化较小的通道,信息单一且重要性较低.通道注意力子模块如图5 所示,通道注意力的权重如式（7）所示.

图5 通道注意力子模块Fig.5 Channel attention submodule

MC表示最后得到的输出特征,γ 是每个通道的缩放因子,因此,每个通道的权值可以得到,对空间中的每个像素使用同样的归一化方法,就可以得到空间注意力的权重,如式（8）所示,空间注意力如图6 所示.

图6 空间注意力子模块Fig.6 Spatial attention sub-module

为抑制非重要特征,在损失函数中加入一个正则化项,如式（9）所示

然后在原本级联基础上结合网络特性以及处理过程, 将链接方式改为并行,BCBAM注意力模块如图7 所示,对原始CBAM的串行注意力模块原来的级联模式改为并行模式后,两种注意力模块均可以直接获得图像的原始特征,不需要关注注意力的运算顺序,从原始的特征图中运算的两种注意力机制捕获权值信息,将权值信息直接加权到原始特征图,从而方便网络捕获目标信息,计算公式如下

图7 BCBAM 注意力机制模块图Fig.7 BCBAMattention mechanism module diagram

BCBAM注意力网络模块对不同通道的差异性捕捉能力更强,能够较好地对不同通道图像信息进行比对、搜集.而空间注意力模块的作用是抓捕图像的不同目标的空间信息,从两个方面丰富图像的特征.

3 实验与分析

3.1 数据集

因为电力设备复杂特殊,所以电力设备红外图像故障识别一直存在获取高质量数据样本难的问题,而缺少样本容易导致过拟合问题和模型失去泛化能力.本模型通过采用随机翻转、旋转和裁剪等方法对电力设备红外数据图像扩充数据,增加数据集的多样性,这相当于扩充了更多的训练和测试样本.最终电力设备红外图像数据集包括2 000 多张图像,并使用其中80%作为训练数据,20%作为测试数据,以验证改进模型对电力设备故障的诊断识别能力.部分扩充后的电力设备红外图像如图8 所示.

图8 部分数据集Fig.8 Some examples of the dataset

3.2 实验配置及环境

实验用的电脑配置及环境如表1 所示.

表1 实验配置及环境Tab.1 Experimental configurations and environments

3.3 评价指标

准确率（Precision）表示在匹配结果中有多少样本是正确的,计算方法如下式所示

式（11）中：TP代表正确的预测值,FP代表错误的预测值.

平均精度AP表示一个类别的所有准确率的平均值.计算AP其数值为集合中某一类别的全部准确率之和与包含此类对象的总图像Nc的比率,具体见式（12）

然后再计算平均精度均值mAP,mAP 值见式（13）

式（13）中：C表示总类别数.

3.4 结果分析

为测试本模型引入BCBAM 注意力机制后轻量化VGG16 网络故障诊断识别精度,本实验使用了Resnet50、Faster-RCNN 和传统VGG16 模型作为实验比较算法.在电力设备红外图像中,光照和拍摄角度与距离的变化会对故障的识别产生影响,Resnet50 和传统VGG16 模型的表现较差,准确率不高.另一方面,由于环境温度的变化会对电力设备红外图像产生影响,因此Faster-RCNN 模型对故障的识别准确率下降.部分样本故障诊断结果如表2 所示.

表2 故障诊断结果Tab.2 Fault diagnosis results

实验定量分析结果见表3.

表3 实验定量分析Tab.3 Quantitative analysis of experiments

通过表3 可以看出,本文算法的mAP相比传统VGG16 网络提高了2.8 个百分点,相比Resnet50 网络提高了6.9 个百分点,相比Faster-RCNN 网络提高了3.6 个百分点.实验数据表明,这一改进的网络模型在准确率评价指标上优于传统VGG16、Resnet50 和Faster-RCNN 等模型,改进模型具有较为准确的故障识别能力.其变化用折线图表示,见图9.从图9 可以直观地看出本算法相比其他几种算法在本数据集上有很好的表现.

图9 实验结果对比折线图Fig.9 Line chart comparing experimental results

4 结论

基于轻量化VGG16 和BCBAM的电力设备故障诊断红外图像识别算法,考虑了电力设备缺陷在红外图像中的特性.该算法通过优化全连接层,减少网络计算量,并将BCBAM 注意力机制引入轻量化VGG16 中.具体来说,引入归一化方法改进通道注意力模块和空间注意力模块,可以降低不太显著的特征的权重；然后在原本级联基础上结合网络特性以及处理过程,将链接方式改为并行,将网络结构与网络性能提升,从而提高算法故障诊断识别准确率.实验数据表明,改进模型具有迅速准确地识别故障的能力,在准确率评价指标上优于传统VGG16、Resnet50 和Faster-RCNN 等模型,从而验证了算法对故障诊断识别的准确度.