基于迁移学习和AlexNet的复合电能质量扰动识别

胡雪峰,张 亮

(南京工程学院电力工程学院,江苏 南京 210000)

0 引言

随着“碳达峰”“碳中和”战略的不断深入推进,接入电网的电源类型和规模发生较大的变化,以风电、光伏等为代表的新能源接入电网的比例不断提高,电网的安全性和稳定性受到挑战。近年来,高速牵引类机车、海量电动汽车以及大量的电力电子型非线性类负荷增大了电压波动、谐波、振荡等多种电能质量问题的发生概率。与此同时,各种精密仪器、智能电子设备也对供电质量提出了更高的要求,使得供电部门和电力用户对电能质量扰动的识别和治理更加关注[1]。

在电能质量扰动识别问题研究中,目前较为流行的方法是将识别分为两步。第一步是进行扰动信号的特征提取,即通过信号处理算法获得电能质量扰动信号的特征信息。信号处理算法有快速傅里叶变换(fast Fourier transform,FFT)[2]、小波变换(wavelet transform,WT)[3]、S变换(S-transform,ST)[4]、希尔伯特-黄变换(Hilbert-Huang transform,HHT)[4]等。第二步是确定电能质量扰动的类型,可利用人工智能技术,如支持向量机(support vector machines,SVM)[5]、决策树(decision tree,DT)[5]、人工神经网络(artificial neural network,ANN)[6]等进行确定。上述方法在对电能质量扰动信号进行时频域特征提取过程中,存在特征提取困难、特征量之间冗余度高的问题。这不仅有可能增加分类器的计算量,还可能会降低分类准确率。同时,伴随着电力系统的复杂化,电网中增加了新的扰动和多种扰动相互叠加的复合扰动[7]。上述方法对新环境下的复合扰动识别往往难以满足其分类需求。

目前,基于迁移学习的卷积神经网络已经成为深度学习中新兴且流行的技术。该技术是从原始输入数据中自动提取数据特征,并实现不同数据的分类。尤其是在图像、音频和文本分类领域,该技术显示出了优异的特征提取能力。一些学者使用该技术在电能质量扰动识别领域取得了先进的研究成果。文献[8]利用深度学习提取电压波动特征,从而实现电压波动特征的识别。文献[9]提出了基于格拉姆角场和卷积神经网络相结合的电能质量扰动识别方法,将扰动信号变换成二维图像,输入构建好的卷积神经网络模型中进行扰动识别。

为了解决上述方法中存在的特征提取困难问题,本文提出了基于迁移学习和AlexNet的复合电能质量扰动识别方法。该方法的思想是闭环反馈,即将信号特征提取过程和扰动分类过程放到同一闭环中训练,从而实现从扰动信号到扰动类型的识别。

本文利用相空间重构法,首先将多种复合电能质量扰动信号转化为对应的轨迹图像;然后利用构建的基于迁移学习的AlexNet复合电能质量扰动模型自主有监督地对二维重构轨迹图像进行学习,从而实现复合电能质量扰动类型的准确识别;最后开展仿真研究,利用仿真数据进行不同类型的电能质量扰动识别,以验证本文方法的正确性。仿真结果表明,本文方法能够准确且快速地识别出复合扰动类型。

1 电能质量扰动信号的相空间轨迹重构

1.1 电能质量扰动信号的相空间重构原理

由于电力系统本身是1个相当庞大、复杂的网络,其产生的电能质量扰动信号通常是1个非线性、非平稳的时间序列信号。而相空间重构技术可将一维时间序列信号重构到高维相空间,再将其映射到二维平面以得到对应的轨迹图像。其不仅包含了电能质量扰动信号时间序列特征,还包含了隐藏在电能质量扰动信号中的扰动特征[10]。

对于一维非线性且时间间隔为Δt的电能质量扰动信号时间序列x(ti),其中包含的数据信息有限。x(ti)∈R,i=1,2,...,n。通过相空间重构将其映射到高维相空间,不仅可以有效挖掘历史数据信息,还可以避免人为随机选择带来的主观性和随机性。对于1个复杂的非线性系统,其重构的相空间可以表示为:

Y(tfile:///C:/Users/HHYY/Desktop/07708/1-78/IMG_2207.JPGi)={x(ti),x(ti+2τ),…,x[ti+(m-1)τ]}

(1)

式中:x(ti)为电能质量扰动信号时间序列;m为嵌入维数;τ为时间延迟参数;Y(ti)为重构的相空间矩阵。

嵌入维数满足以下关系:

m≥2d+1

(2)

式中:d为动力学中的系统维数。

由于d是动力系统的维数,在重构的Rm相空间轨迹线上,吸引子的几何特征与原系统拓扑等价,即任何不变量的原始系统经过重构后的相空间状态变量均可以计算。根据相空间重构理论,一维时序信号经相空间重构后的轨迹矩阵形式如下:

(3)

式中:k为相空间中相位点的个数。

1.2 多种扰动信号的相空间重构轨迹

本文根据IEEE Std.1159-2019建立电能质量扰动数学模型,以构建不同类型的电能质量扰动信号。这些信号分别为暂降(C1)、暂升(C2)、中断(C3)、闪变(C4)、谐波(C5)、暂态振荡(C6)、暂态脉冲(C7)、电压缺口(C8)和电压尖峰(C9)这9类单一扰动,以及由单一扰动组合成的暂降+中断(C10)、暂降+电压缺口(C11)、振荡+电压缺口(C12)、谐波+振荡(C13)、暂降+尖峰(C14)、暂降+暂态脉冲(C15)、暂降+振荡+电压缺口(C16)、暂降+中断+谐波(C17)、暂降+电压尖峰+电压缺口(C18)这9类复合扰动。扰动信号的振幅标准化为1 p.u.,基频为50 Hz,采样频率为12.8 kHz,采样周期为10个。1个周期包含256个采样点。通过对上述电能质量扰动信号作相空间重构,可批量得到扰动信号的重构轨迹图,并将其作为深度学习模型的输入进行自主有监督学习,以实现扰动类型的识别。

部分电能质量扰动信号波形如图1所示。

图1 部分电能质量扰动信号波形图

通过对电能质量扰动信号波形进行相空间变换,得到的部分电能质量扰动信号重构轨迹如图2所示。

图2 部分电能质量扰动信号重构轨迹图

由图2可知,不同类型扰动信号的重构轨迹有明显的区别,因此可以将其作为基于迁移学习和AlexNet模型的输入数据进行电能质量扰动类型识别。

2 基于迁移学习的扰动识别模型

2.1 迁移学习

随着深度学习网络层数的增加,深度学习网络需要大量的训练数据作为支撑。为了减少电能质量扰动数据的需求量,本文提出了1种基于迁移学习与网络模型相结合的方法,对电能质量扰动信号重构轨迹图像进行识别。迁移学习是将经过大量数据集训练好的卷积神经网络模型在新的任务目标数据集中进行二次训练,即利用训练好的网络模型,通过调整模型的结构和细微参数来解决新目标任务的方法[11]。与原网络模型相比,迁移学习的优势是利用已有的最佳网络模型,通过微调其参数来快速构建和研究所需的模型。

由于原始最佳网络模型已经经过大量数据训练,故在训练过程中不但可以提高训练模型的识别精度,而且可以大大降低训练时间。本文主要以AlexNet作为预训练模型,利用网络模型结构和参数微调的迁移学习方法,实现对电能质量扰动类型的识别。

2.2 AlexNet网络结构

AlexNet网络结构如图3所示。

图3 AlexNet网络结构图

AlexNet网络主要由5个模块化结构组成。模块1结构为卷积层1和卷积层2,主要包含2个卷积层、2个激活层、2个批量归一化层和2个最大池化层。模块2结构为卷积层3和卷积层4,主要包含2个卷积层和2个激活层。模块3结构为卷积层5,主要包含1个卷积层、1个激活层和1个最大池化层。模块4结构为全连接层6和全连接层7,主要包含2个全连接层、2个激活层和2个Dropout层。模块5结构为全连接层8,主要包含1个全连接层和1个Softmax层。

基于迁移学习的AlexNet扰动识别模型主要是将AlexNet网络结构中的模块5替换为迁移模块。

迁移模块结构如图4所示。

图4 迁移模块结构图

基于迁移学习的AlexNet扰动识别模型如图5所示。

图5 基于迁移学习的AlexNet扰动识别模型

迁移模块采用2个全连接层,以进一步增加网络对扰动轨迹特征的自动提取能力。激活层采用ReLU函数,解决了模型随网络层数增加而逐渐退化的问题;同时,将迁移模块中的最后1个全连接层的输出大小调整为扰动信号类型的总数目。

图4迁移模块中的Softmax层用于判定扰动所属的类型,并作为预测结果进行输出。输出的计算误差通过交叉熵损失函数得出,并用于评估实际输出与期望输出的相近程度。其中,交叉熵损失函数为:

(4)

式中:W为权重矩阵;b为偏置向量;N为样本数;K为扰动类型数目;tij为第i个样本属于类别j的概率;yij为类别j中样本i的输出概率。

2.3 超参数设置

在AlexNet网络模型训练时,超参数的调整属于随机优化问题。因为其最优组合既取决于网络模型本身,又取决于软件和硬件环境。基于迁移学习的AlexNet扰动识别模型的超参数是在多次调整后确定的。在利用AlexNet模型训练时,本文选用批量训练的方法,将数据集随机分为训练集和测试集。本文优化函数选取随机梯度下降法,并设置动量为0.9、每次迭代使用的数据量为25、最大训练回合数为10、初始学习率为0.000 1、数据打乱策略为每个训练周期打乱1次。同时,为了抑制过拟合,本文设置Dropout层丢弃概率值为0.35,即随机丢弃35%的节点。AlexNet模型的其他相关参数初始权重使用经ImageNet训练得到的权重值。

3 算例研究

根据1.2节中所提到的数学模型,本文利用Matlab生成不同类型的电能质量扰动信号对应的重构轨迹图。每类扰动信号的重构轨迹随机生成500个样本。本文随机选取其中400个作为训练集、100个作为测试集进行仿真验证。基于迁移学习的AlexNet扰动识别模型训练环境如下:操作系统为Windows10(64bit);CPU为Inter Cores A10-9600P@2.40 GHz;GPU为R8 M445DX;Matlab为2019b。

3.1 模型训练结果及对比研究

为了验证所提方法的有效性,本文利用仿真数据对迁移学习的AlexNet网络模型进行训练,同时在相同的训练环境和参数下使用VGG16、GoogLeNet网络模型的训练结果与之对比。各网络训练模型曲线如图6所示。

图6 各网络训练模型曲线图

训练精度曲线用于表示模型识别精度随迭代次数增加的波动的情况。由图6(a)可知,在识别精度方面,AlexNet网络模型和GoogLeNet网络模型的识别精度均达到96%以上。在迭代到100次时,AlexNet网络模型的识别精度收敛于99%。在迭代到240时,GoogLeNet网络模型的识别精度收敛于96%并趋于稳定。在收敛速度方面,AlexNet网络模型具有较高收敛速度。

训练损失曲线用于表示模型识别结果与实际结果之间的偏差随迭代次数增加而变化的情况。通常情况下,当损失值随着迭代次数趋于稳定时,损失值越小,模型识别精度越高,即对应扰动识别准确率也越高。由图6(b)可知,随着迭代次数的增加,AlexNet和GoogLeNet网络模型先趋于稳定,且AlexNet较GoogLeNet网络模型的训练损失值小,而VGG16网络模型损失值最大。

3.2 识别结果分析

为了模拟实际电力系统中的真实扰动,本文在扰动信号中加入不同程度的噪声,再获取其对应的重构轨迹,从而进一步验证基于迁移学习的AlexNet网络模型的性能。不同网络对复合电能质量扰动类型的识别率如表1所示。由于还未建立足够大的电能质量扰动数据集,难以把上述各类网络模型训练到理想的分类效果。但就本文仿真所提供的相同样本来看,在几种模型中,基于迁移学习的AlexNet网络模型对电能质量扰动识别效果最好。这表明采用AlexNet网络作为预训练模型,利用迁移学习的方法实现电能质量扰动的小样本高精度分类具有优势。同时,根据加入噪声后的识别结果,可以发现经迁移学习后的AlexNet网络模型具有较强的抗噪性。

表1 不同网络对复合电能质量扰动类型的识别率

4 结论

本文提出了1种基于迁移学习与深度卷积网络相结合的复合电能质量扰动识别方法。该方法首先运用相空间重构法将原始扰动信号转化为二维轨迹图像;其次通过构建基于迁移学习的AlexNet网络模型进行扰动特征自动提取,进而实现对二维轨迹图像的识别;最后基于仿真数据验证了所提方法的正确性和有效性。验证结果表明,所提方法在不同程度噪声干扰下均具有较高识别精度。