基于DCGAN的绝缘子图像生成方法

2021-01-29 08:28杨彦利矫红岩
自动化与仪表 2021年1期
关键词:绝缘子卷积神经网络

杨彦利,矫红岩

(天津工业大学 电子与信息工程学院,天津300387)

绝缘子是输电线路的重要组成部分[1]。绝缘子长期暴露在自然环境中,难免出现自爆、掉串和破损等问题。对绝缘子的巡检成为保障输电线路正常工作的必要手段。

目前,绝缘子状态监测已发展到无人机自动巡检阶段,自动采集绝缘子图像并进行故障识别[2]。借助于深度学习来识别绝缘子图像越来越受到关注,如卷积神经网络CNN 用于从红外图像[3]和视觉图像[4]中检测绝缘子,深度卷积神经网络DCNN 用于识别绝缘子的自爆[5],基于跨连接卷积神经网络的绝缘子检测方法[6]等。还有识别与定位故障绝缘的方法[7-9],如基于Mask R-CNN 的方法[10]。这些方法虽在一定程度上提高了绝缘子故障检测的智能程度,但基于神经网络的机器学习方法[11]依赖于大量的训练样本,其样本库的容量直接决定了神经网络检测方法的性能。

利用深度学习来识别绝缘子故障需要大数据的支撑,绝缘子图像往往为企业独有,难以建立共享的大样本库,严重影响该方法对绝缘子故障的识别。在此,研究了故障绝缘子图像的计算机生成方法, 利用生成对抗网络GAN 来生成故障绝缘子图像,以模拟真实的绝缘子图像,达到增加故障绝缘子图像样本和多样性的目的。

1 DCGAN 基本原理

GAN 生成图像的基本框架如图1 所示[12]。

图1 GAN 生成图像的示意框图Fig.1 Diagrammatic sketch of GAN generated image

由图可见,GAN 包含2 个网络: 生成网络G 和判别网络D。生成网络G 不断学习训练集中真实图像数据的概率分布,其目标是将输入的随机噪声转化为能以假乱真的图像;判别网络D 判断一个图像是否为真实的图像, 目标是将生成网络G 产生的“假”图像与训练集中的“真”图像样本分辨开。

深度卷积对抗生成网络DCGAN[13](deep convo lution generative adversarial networks),在GAN 网络的基础上引入了卷积操作,利用卷积层强大的特征提取能力来提高GAN 的效果[14],以期解决GAN训练不稳定的问题。它虽是训练生成对抗网络的一种更稳定的体系结构, 但有时会进入单一振荡模式。对此,人们又开发出一些模型[15-17],这些模型从不同角度改进了DCGAN,每个网络有各自的特点,具体见表1。

由表可知, 网络模型的差别主要是损失函数、判别器最后一层以及优化算法的选择,并且不同的网络模型在不同领域具有不同的应用效果。

相比于GAN 模型,DCGAN 模型利用了卷积网络强大的特征提取能力,可更好地生成图像。DCGAN可用于螺栓图像生成[18]、天文图像生成[19]、SAR 图像生成[20]等。在此,以DCGAN 模型为基础生成绝缘子图像,结合绝缘子图像的特点,对DCGAN 模型进行适当的修改,以自动生成能够以假乱真的故障绝缘子图像样本。

表1 网络模型的特点对比Tab.1 Comparison of characteristics of network models

2 基于DCGAN 的绝缘子图像生成算法

基于DCGAN 生成绝缘子图像的流程如图2 所示。在此采用了均匀分布的随机噪声而非正态分布的随机噪声。

图2 绝缘子图像生成过程示意图Fig.2 Diagrammatic sketch of insulator image generation process

由图可见,利用DCGAN 生成绝缘子图像的过程如下:将随机噪声输入生成网络,生成“假”样本数据,再将生成的“假”样本数据与从图像样本中的实际图像一起输入到判别网络。该过程与基于GAN的图像生成方法基本框架类似,差别在于生成网络和判别网络。这也表明,生成网络和判别网络是图像生成的2 个核心部分。在此,主要从这2 个部分来改进DCGAN,以生成高质量的绝缘子图像。

1)修改生成网络

首先修改生成网络,以提高生成绝缘子图像的分辨率。在原DCGAN 基础上增加一层卷积网络,生成网络模型结构如图3 所示,修改后的生成网络可以生成大小为128×128 的绝缘子图像。生成网络中除最后一层外,每层均加入BatchNorm[21](批量归一化)层,其目的是增加学习的稳定性。

图3 生成网络结构Fig.3 Structure of generate network

激活函数也是神经网络的一个重要参量。它的作用是将输入进行非线性映射,使神经网络可任意逼近任何非线性函数。常用的有Sigmoid 函数[22]、Tanh函数、线性整流函数ReLU 等,众所周知,其表达式分别为

Sigmoid 是将输入的连续实值变换为0~1 之间的输出;Tanh 函数取值范围为[-1,1]。生成网络的输出层采用Tanh 函数,其余层激活函数是ReLU 函数。

生成网络的输入为均匀分布的随机噪声,经过reshape 后得到大小为4×4 的512 层图像,再与卷积核为5,步长为2,Padding=1 进行反卷积,得到256层8×8 的图像, 依此类推。最终得到3 层128×128的图像作为判别器的输入。而Tanh 函数的取值范围是[-1,1],目的是使数据压缩到[-1,1]。

2)修改判别网络

与原DCGAN 中的判别网络相比, 在此增加了一层卷积网络,其模型如图4 所示。判别网络的输入有两部分:真实的绝缘子样本图像数据和生成网络生成的“假”绝缘子图像数据。判别网络是要判断生成的绝缘子图像的真实性,且判断越准越好。

图4 判别网络结构Fig.4 Structure of discriminant network

判别网络使用转置卷积层(transposed convolutional layer),且用≮2 的步长进行上采样,中间层均加入BatchNorm 层。判别网络的最后一层使用Sigmoid 激活函数, 其他层的激活函数均采用Leak Relu 函数。

为了使生成网络更快的学习到样本的特征,并减缓生成网络损失的下降,每训练1 次判别网络便训练5 次生成网络,即每更新1 次判别网络的权重需要更新5 次生成网络的权重。通过不断地更新生成网络和判别网络的权重,使生成网络持续学习到真实数据的分布,进而根据数据的分布生成绝缘子图像。生成网络生成以假乱真的图像来欺骗判别网络,直至判别网络不能分清输入图像的真伪。在训练过程中,生成网络与判别网络互相学习,并且保持基本相同的学习速率, 通过不断地互相学习,最终达到一个均衡的效果。

3 试验结果与分析

利用改进的DCGAN 模型来生成绝缘子图像,并与LSGAN,WGAN,WGAN-GP 等模型生成的绝缘子图像进行对比。通过多种途径获得绝缘子图像,经过人工筛选得到清晰的绝缘子图像样本有988张,图像分辨率为178×218。使用Python 语言并基于Pycharm 软件进行编程。

3.1 评价指标

在此,通过IS[23](inception score)指标来评估生成模型性能。IS 主要评估生成图像的清晰度和多样性,IS 值越高,模型生成图像的质量越好。通过将生成的图像放入预训练的Inception 模型[24]中,计算目标图像的熵值实现对图像质量的评估。即[23]:

式中:x~pg为生成的图像;y 为样本输入到Inception模型产生的向量;p(y|x)为该图像在各个类别的概率分布;p(y)为该图像的概率分布;DK-L为对p(y|x)和p(y)求K-L 散度。K-L 散度用以衡量2 个概率分布的距离,它是非负的,值越大说明这2 个概率分布越不像。众所周知,K-L 散度公式为

式中:P(i)为真实图像的数据分布概率;Q(i)为生成图像的数据分布概率。

为了进一步验证改进模型的准确度,采用基于Mask R-CNN 的故障绝缘子识别中的方法[10]。其中平均准确率AP 和总平均准确率MAP 的值代表了模型识别绝缘子图像的精准度,AP 由准确率和召回率求平均得到。准确率P 为[10]

式中:TP 为准确识别出故障绝缘子的数量;FP 为将故障绝缘子识别为正常绝缘子的数量。召回率R 为[10]

式中:FN 为将正常绝缘子识别为故障绝缘子的数量。MAP 为所有的AP 之和求平均值。

3.2 结果分析

经过试验调试, 发现学习率设为0.0004 时,生成的绝缘子图像效果较佳。输入均匀分布的随机噪声,输出是分辨率为128×128 的绝缘子图像。经过10000 次训练,所生成的无背景、有背景绝缘子图像如图5 所示。

图5 DCGAN 生成的绝缘子图像Fig.5 Insulator image generated by DCGAN network

由图可见,生成的绝缘子图像很逼真,而且图像具有不同的形态。

作为对比,在相同输入条件下,使用不同网络模型生成的绝缘子图像如图6 所示,每种网络均调到最优。

由图可见,WGAN 模型生成的绝缘子图像几乎无法辨认;WGAN-GP 模型生成的绝缘子图像相差不大;LSGAN 模型生成的绝缘子图像效果较好,但其多样性不是很好。

为便于比较,将4 种模型参数均调到最优,并计算其IS 值, 结果见表2。由表可知, 改进后的DCGAN 网络的IS 值为4.10,高于其他模型IS 值。

为测试生成图像的实用效果,选取并分析改进后模型生成的100 张有背景和无背景的图像。先用文献[10]中的模型进绝缘子识别,测试结果见表3。由表可知生成的部分绝缘子图像被正确识别。作为对比, 将100 张图像取50 张进行训练, 对另外50张进行测试,结果见表3。测试结果表明,MAP 值有不同程度的提高, 尤以无背景图像的MAP 值大幅提高,这表明所生成的绝缘子图像可以像真实绝缘子图像那样被有效识别。

图6 不同模型生成的绝缘子图像对比Fig.6 Comparison of insulator images generated by different models

表2 IS 值的比较Tab.2 Comparison of IS values

表3 MAP 值对比Tab.3 Comparison of the MAP values

4 结语

利用DCGAN 模型设计了绝缘子图像生成算法。针对绝缘子图像的特点,修改了DCGAN 模型的生成网络和判别网络,并设置了合适的激活函数和学习率等参数,实现了故障绝缘子图像的自动生成。与基于LSGAN,WGAN,WGAN-GP 等模型生成绝缘子的图像进行对比,结果表明本文算法生成的绝缘子图像效果更好,一些图像可以达到真伪难辨的程度。鉴于绝缘子工况的复杂多变性,生成具有复杂背景的故障绝缘子图像尚需在后续的工作中进一步研究。

猜你喜欢
绝缘子卷积神经网络
基于3D-Winograd的快速卷积算法设计及FPGA实现
神经网络抑制无线通信干扰探究
从滤波器理解卷积
基于傅里叶域卷积表示的目标跟踪算法
1000kV特高压输电线路失效绝缘子判断的仿真计算
基于神经网络的拉矫机控制模型建立
复数神经网络在基于WiFi的室内LBS应用
1000kV耐张绝缘子串单片绝缘子的带电更换技术
基于支持向量机回归和RBF神经网络的PID整定
500kV绝缘子串含零值绝缘子时的电晕放电分析