深度学习在输配电线路缺陷检测中的研究现状与发展展望

2022-02-06 02:48吴世席夏选莉李根健刘明祥沈锋
云南电力技术 2022年6期
关键词:输配电绝缘子神经元

吴世席,夏选莉,李根健,刘明祥,沈锋

(1.云南电网有限责任公司德宏供电局,云南 德宏 678400;2.哈尔滨工业大学,黑龙江 哈尔滨 150000)

0 前言

近年来,云计算、大数据、物联网、移动互联、人工智能等数字化技术快速发展,为电力设备运行维护的数字化、智能化转型提供了新的手段和关键技术支撑。党的二十大报告中也明确指出,要构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎。人工智能作为新一轮产业变革的核心驱动力,将进一步释放历次科技革命和产业变革积蓄的巨大能量,正成为国际竞争的新焦点和经济发展的核心动能。

随着超高压、特高压电网建设的大规模开展,电网基础建设朝着智能化、大容量、大跨度输送电力方向发展。随之而来的是高压输配电线路的运行维护任务强度也逐渐加大。由于客观原因,大量的高压输配电线路都分布在户外,并且覆盖面积广,极易受到恶劣自然环境和人为因素影响,进而产生重大的安全隐患。目前,在输配电线路巡检方面,大量机载平台已顺利完成部署,海量的巡检数据为电力人工智能的实施提供了数据准备。近年来,各类人工智能算法在电力领域的应用不断涌现,本文首先对人工智能用于输配电线路缺陷检测的基本原理进行阐述;然后重点介绍了深度学习在输配电线路缺陷检测中的研究进展;最后对深度学习在电力设备缺陷检测方面的应用进行了展望。

1 深度学习用于输配线电路缺陷检测的基本原理

作为机器学习学科的一大分支,深度学习借鉴了人脑神经系统,提取深层次特征,将其与低维度特征组合,得到更高维度特征,进而完成数据解释以及特征表示。作为深度学习的基础,神经网络模型则是利用生物的神经系统对外界信息输入实现交互反应,其结构如图1所示。自1943年被沃伦·麦卡洛克提出以来,之后经过不断的迭代以及优化,才有了如今的神经网络结构。

图1 神经元模型

其中,x=(x1(k-1),x2(k-1),…,xn(k-1))T为神经元接受到的多个输入;w1(k),w2(k),…,wn(k)为输入信号的比重;b(k)表示神经元整体的偏移;f(·) 为激活函数;v(k)为输入信号的加权结果;x(k)为激活函数处理后的神经元输出。则独立存在的神经元输出能够描述为:

对式(1) 进行分析,单个神经元模型的作用可以等效为线性分类器,能够对线性关系进行拟合,并依照设置的激活函数添加非线性成分,因此该模型通常也会被称为感知器(perceptron)。

但是对于复杂问题,无法通过单个神经元模型对其进行线性划分,因此,构建一种模仿大脑神经突触连接关系,包含了输入层、隐藏层以及输出层的多神经元分层排布方式,即多层感知机(Multilayer Perceptions,MLP)。其模型结构如图2所示。其中每个圆形图案表示为和图神经元模型,层内的神经元互相不进行连接,而上一层的神经元连接着下一层的全部神经元,多层感知机同样可以称作全连接神经网络(Full-connection Neural Network)。该结构在某种程度上模拟了生物神经系统的运作方式,利用误差反向传播算法(Backpropagation,BP)更新网络中权值的方法完成训练,具备了初步的自学习能力。

图2 多层感知机模型

如果条件允许,MLP 能够拟合任意函数,并且能够解决所有分类相关问题。然而为了提升拟合精度往往会增加隐藏层的层数,使得该网络训练参数最多,计算量最大;同时也会存在导致梯度扩散,陷入局部最优的情况,导致训练失败。

卷积神经网络(Convolutional Neural Network,CNN)是对传统神经网络进一步改进,使得神经网路的层数加深,是实现深度学习的基础。CNN 在原有的MLP 的基础上加入卷积层,能够利用卷积核实现特征提取,再移送至全连接网络中进行识别。相对于传统的图像识别方法,网络减少了复杂预处理步骤,目前已经大规模应用于电力图像识别分类领域。

CNN 通常包含了卷积、批标准化、激活、池化、丢弃以及全连接6 类通用模组。以输配电线路缺陷检测任务为例,输入层接受为图像数据,即预处理后的无人机巡检图像。如图3所示为CNN 基本结构。

图3 卷积神经网络基本结构

当数据被传递进入网络时,首先经历了卷积操作,卷积操作能够等效为一种滤波器,通过行列对称翻转后,对输入图像与滤波器变换结果对应进行相乘相加,实现卷积运算。以图4为例,一个尺寸为3 的卷积核与图片对应的位置进行运算,进而求解输出提取特征点5。如果推广到尺寸为k 的卷积核,其模型结果能够写成如下形式:

图4 卷积操作

式中,wi,j为权重;b为偏置。

而后卷积核会向右步进,其步进长度能够根据实际情况设定。而为了保证卷积操作前后结果尺寸一致,可以对输入数据的周围填充数值,通常采用全零填充的方式对数据周围进行补零操作。在实际的网络训练时,可以挑选合适的卷积核带下、步进长度以及填充方式来达到需求的模型训练效果。

批标准化是对卷积操作之后数据标准化操作的必要步骤,通常位于激活函数之前。利用均值以及优化方差的方法,提升模型的收敛速度,同时避免梯度消失。在B={x1,x2,…,xm}个训练批次数据中,可以表示为,计算其均值以及方差,根据计算结果进行尺度变换、归一化处理以及偏移计算。其计算过程表示为:

式中,κ是为常数;μB为训练批次数据的均值;σ2为训练批次数据的方差;γ为尺度因子;β为平移因子;yi为批标准化的输出。

考虑到输入数据以及后续特征结果的数据量非常大,通常使用池化操作保留必要的信息并降低运算量。在实际过程中,核心思路为获取图像中的有效特征信息,无需对整体进行分析,因此基于图像压缩思想利用下采样方法对数据大小进行调整,使得后续的层能够提取更多的特征,同时加快网络的训练速度。目前经常使用到的池化操作有:随机池化、最大池化、平均池化以及全局平均池化。

尽管池化能够在某些方面解决训练中模型的过拟合问题,但网络模型参量数量较多且训练集的样本数较少时,仍然会出现过拟合现象。因此需要使用丢弃操作使某些神经元停止工作,禁止参与模型中参数的更新,其过程如图5所示,由此能够有效解决过拟合的问题,加快训练速度,并使得模型的鲁棒性和泛化能力大幅度提升。

图5 神经元随机丢弃操作示意图

而在输出层的之前的由多个全连接层共同组成了全连接部分,事实上能够被认为是卷积神经网络的隐藏层。

CNN 训练从整体上可以划分成如下所处的2个进程。

1)前向传播阶段,在此阶段中与传统神经网络中存在的由前至后传输模式相近,要把数据集内的样本信息传递至网络内,通过逐渐变换的操作获取输出结论,在网络内上层输出参量成为本层的输入参量,当前层对应的输入参量到输出参量间具备如下所述的函数表达式:

式中:l代表层数;W表示权值;b是一个偏置;f是一个激活函数。

2)反向传播阶段,任何一次前向传播完成后均要确定相应的误差系数,以此解析通过本次传播后网络的运行情况。反向传播进程是需要把误差采用反向传递的模式逐层传输至前面的层次中,让前面层内神经元参考误差系数展开自身权重系数的调整。通常情况下,CNN 网络选择反向传播算法是采用梯度减少的模式,借助于核算网络全局误差的方式能够让网络内的单位权重系数能够往误差降低的方向展开优化处理。主要涵盖2个迭代流程,首先计算样本传送至传播阶段过程中获取的输出参量与目标输出参量间存在的差值,然后将误差展开反向传递操作,由此能够将网络中权值系数进行调整。

2 基于深度学习的输配电线路缺陷检测研究现状

在2018年6月召开的人工智能学术研讨会上,中国电科院副院长王继业指出:面向智能电网和能源互联网的发展需求,以输配电设备的空中飞行平台巡线等产生的海量图像大数据为数据源,结合逻辑和先验知识,并利用人工智能技术研究巡检图像的处理、分析、和理解方法,是实现输配电线路缺陷检测的重要手段和保障电网安全运行、促进学科发展和产学研转化的重要方向。

基于深度学习的输配电线路缺陷检测方法,其原理是先通过深度网络从数据集提取目标对象的特征信息,然后利用提取到的特征对分类网络进行迭代训练以获得具有一定检测精度的检测模型,最后调用训练好的模型直接从图像中检测出目标对象。深度神经网络的出现,将构建图像特征提取算法和缺陷判别算法的工作都转交网络自行学习,人们只需要完成简单的数据标注工作,之后便能通过不断的迭代训练便能获得足够精度的能够实现多目标检测的识别模型。

苗向鹏[1]对比了传统机器学习和深度学习方法在绝缘子识别问题上的效果,实验证明深度学习方法具有更高的识别准确率。王森[2]指出基于随机Hough 变换和模板匹配的方法只适合于特定场景、特定角度下的检测,基于深度学习模型SSD 的检测方法则达到了较高的准确率。王万国等[3]人利用深度学习目标检测方法进行电力部件识别,分别对DPM、SPPnet 和Faster R-CNN 识别方法进行了测试分析,验证了基于目标检测的识别方法实现对电力小部件的识别是可行的。

因此,越来越多的学者们将基于深度学习的检测方法应用到输配电线路缺陷检测的研究中去。李辉等[4]人提出了一种HSI 颜色特征与Faster R-CNN 相结合的金具锈蚀检测方法,并通过实验证实了其具有更高的检测精度。Zhao等[5]人采用二进制特征池的特征生成方法来实现绝缘子串检测,该方法根据提取的图像特征信息构造一个分类器并加以训练,然后将其嵌入到多尺度滑动检测框架中,从而实现了图像中绝缘子的定位。其准确率达89.1%。汤踊等[6]人研究了多种不同骨干网络的Faster R-CNN网络模型对不同电力部件的检测效果,Wu 等[7]人为了排除背景环境的干扰,利用主动轮廓算法对具有不均匀纹理特征的绝缘子图像进行了分割。

Ling 等[8]人先采用Faster R-CNN 检测算法实现对绝缘子进行检测,然后再将绝缘子区域切割出来以提高信噪比,接着使用U-net 网络的像素级别分类优势实现了绝缘子自爆缺陷的检测。

王子昊[9]结合绝缘子航拍图像自然场景背景复杂的特点,提出了利用级联式检测结构来处理绝缘子缺陷检测问题。李浩以不同形态的异常发热区域作为检测目标,分别利用Faster R-CNN 和SDD 算法实现了电气设备发热缺陷的检测。

王淼等[10]人分别采用线段检测法和深度卷积神经网络提取红外图像中的导线区域和绝缘子区域,然后通过温度和灰度分析提取导线和绝缘子区域内的发热点,最后利用漫水填充算法对过热区域进行分割,达到输配电线路发热缺陷检测的目的。

陈景文[11]使用U-net 模型对图像进行绝缘子检测,并使用瓶颈结构融合浅层特征和高层特征,提高了绝缘子检测的准确率。Bin Yan[12]在绝缘子分割部分借助了深度学习的思想,利用卷积神经网络进行特征提取,Fan P.[13]提出了一种三阶段绝缘子缺陷检测算法。任文文[14]对比了卷积神经网络特征提取算法、HOG 特征变换结合SVM 分类器算法、BP 全连接神经网络算法,最终发现卷积神经网络特征提取算法对复杂图像下的光线、角度和背景具有良好的鲁棒性。

目前来看,深度学习方法在电力目标检测方面的应用方兴未艾,但是对于航拍视角下的电力小目标检测性能仍有待提高。

3 深度学习在电力设备缺陷检测方面的研究展望

3.1 高效高质量的人工智能数据集构建技术

人工智能的发展需要有大数据支撑来学习大量的知识和经验,高效的构建人工智能数据库是保障人工智能算法的基础保障。以输配电线路无人机巡检任务为例,无人机定检巡检的输电线路图片存在两大特点。从整体上看,数据分布不均衡,面临“长尾效应”,即缺陷样本非常重要但是相比于正常样本数量稀少;从个体上看,输电线路故障在图像中尺寸较小,难以发现、且受光照影响较大。如何结合输电线路图像增强、降噪技术,扩充缺陷样本数据,改善数据分布情况,减少干扰因素,提高检测性能。针对全部人工手动标记费时费力、效率低下等问题,如何在部分标注各类样本的基础上,自动标注大规模未标记数据是未来重要的发展方向。

3.2 高效鲁棒的电力人工智能检测模型

随着深度学习技术的进步,电力行业人工智能检测模型的发展正迸发出前所未有的活力,但是当前的模型仍存在以下三方面的问题。

一方面,当前的深度学习模型对航拍小目标的检测性能不足,现有的检测模型一般基于标准数据集,被检测目标在图片中占比很大,但是机巡电力设备缺陷图像往往特征非常小,经典方法难以实习机巡视角下电力小目标的检测;另一方面,目前电力系统采用的深度学习方法多基于单一数据源进行分析和判断,分析结果粗放和片面,难以及时发现潜伏新故障;最后,今天的电力人工智能基本上都是在封闭环境中取得的成功,测试数据与训练数据的场景一致性是成功的基本假设,但是在面向实际应用的过程中一切条件都会发生变化,实际的突发状况远比实验室环境复杂得多,这就要求未来的人工智能必须具备环境自适应能力。

综上所述,如何结合小目标检测技术、跨模态融合技术和开放环境自适应技术,构建高效鲁棒的电力人工智能检测模型是未来重要的发展趋势。

3.3 可信可靠可解释的电力人工智能模型

人工智能的发展历程经常被划分为两代,即知识驱动的人工智能和数据驱动的人工智能。第一代人工智能主要基于知识库和推理机来模拟人类的推理和思考行为。其代表性成果是IBM 公司的Deep Blue 和DeeperBlue,于1997年5月打败了当时的国际象棋冠军卡斯帕罗夫。知识驱动的人工智能具有很好的可解释性,而且知识作为一种数据和信息高度凝练的体现,也往往意味着更高的算法执行效率。但是,其缺点在于完全依赖专家知识。一方面,将知识变成机器可理解可执行的算法十分费时费力;另一方面,大量的知识或经验难以表达建模。因此,知识驱动的人工智能的应用范围非常有限。

第二代人工智能则基于深度学习来模拟人类的感知,如视觉、听觉、触觉等。其代表性成果就是深度神经网络,通过收集大量的训练数据并进行标注,然后训练设计好的深度网络。这类人工智能不需要领域知识,只需要通过大数据的训练就可以达到甚至超过人类的感知或识别水平。这类人工智能具有通用性强、端到端的“黑箱”性。但是,也正是由于其“黑箱”特性,才使得第二代人工智能算法非常脆弱,依赖高质量、带标记的大数据和强大的算力。因此,具有鲁棒性差、不可解释,以及不太可靠等瓶颈问题。

与此同时,电力领域大部分应用对正确性和安全性要求极高,且本身具有必须遵循的复杂物理规律,尤其是在大电网调度控制、电力市场大宗交易与高端电力设备运检维修等方向。因此,建立知识数据双驱动的电力人工智能基础理论,实现可信可靠可解释的电力人工智能模型构建,并具备开放环境特别是突发情况下的系统稳定性,是电网智能感知与人工智能基础算法亟需突破的重要方向。

猜你喜欢
输配电绝缘子神经元
基于Mask RCNN的绝缘子自爆缺陷检测
对输配电及用电工程的自动化运行的几点思考
浅析输电线路绝缘子防污闪技术
探讨输配电及用电工程中线损管理的要点
跃动的神经元——波兰Brain Embassy联合办公
日常输配电线路运行管理及维护措施浅谈
探讨电力输配电线路的运行维护与故障排除技术
1000kV特高压输电线路失效绝缘子判断的仿真计算
红外检测劣化绝缘子的仿真试验
ERK1/2介导姜黄素抑制STS诱导神经元毒性损伤的作用