基于Adam 优化的改进PSO-RBF 牵引变压器故障诊断研究*

邵宁宁 王 英,

(1.兰州交通大学自动化与电气工程学院 兰州 730070；2.兰州交通大学光电技术与智能控制教育部重点实验室 兰州 730070)

1 引言

牵引变压器作为铁路供电的命脉元件，其运行情况决定了整个牵引供电系统的安全稳定运行[1]，因此必须加强对牵引变压器故障诊断的研究。基于油中溶解气体的牵引变压器故障诊断常用的方法有油色谱分析法[2-3]、BP 神经网络[4-5]和混合神经网络法[6-7]。由于牵引变压器运行环境恶劣，运行时同时受“电-磁-力-热”等多种内外应力，而且牵引变压器负载特性复杂，使得牵引变压器的故障诊断难度增大。

20 世纪70 年代，KENNEDY 等[8]提出PSO 优化算法，其思想源于鸟群的觅食行为，算法采用迭代的优化思路，根据粒子的迭代来更新局部最优值和全局最优值。文献[9]提出了一种关于加速因子动态调整的策略，研究发现对于特定的问题，加速因子c1和c2选用特定的非线性组合，可以提高目标函数的收敛速度。RBF 神经网络[10]能够逼近任意的非线性函数，具有良好的泛化能力，并有较快的学习收敛速度，已成功应用于非线性函数逼近、数据分类、系统建模和故障诊断等。文献[11]采用PSO 算法对RBF 模型的径向基函数中心、方差以及隐含层到输出层的连接权值进行寻优，使其更正确地反映输入样本空间的实际分布，进而保证较强的拟合性能。

Adam 算法是KINDMA 等[12]于2015 年提出的一种自适应梯度优化算法，其基本思路为通过动态调整模型参数的学习率，同时对一阶距估计和二阶距估计进行偏置校正，使每次迭代后的学习率都在规定的范围内，从而使算法的学习率更加稳定。Adam 结合了动量与自适应学习率来替代梯度下降法，非常适用于本文嘈杂、稀疏且参数较大的油色谱数据，而PSO 算法在速度迭代过程中，省去了交叉和变异操作，相对编程更为简单，与遗传算法相比，所有粒子寻优是跟随当前最优粒子，而不是整个种群以比较均匀的速度向最优解区域移动，到达最优解位置的时间相对更短[13]。

文献[14]将PSO 算法中粒子更新思路与Adam算法的梯度优化相结合，采用Adam 优化PSO 算法，可以拓展求解空间，从而提高PSO算法的收敛速度。将Adam 算法与PSO-RBF 故障诊断模型相结合，提高算法的收敛性能和模型诊断的准确性，发挥两种算法在建模中的不同优点，可以有效地提高变压器故障诊断率。

通过Adam 计算梯度的一阶矩估计和二阶矩估计，为不同的参数设计独立的自适应性学习率，超参数可以很直观地解释，并且基本上只需要极少量的调参，能够实现高效计算，所需内存少，能够快速精准对牵引变压器故障进行诊断。本文将采用基于经典动量概念的Adam 和PSO 相结合，针对特征气体含量噪声高容易判断失误、求解过程中存在稀疏梯度的问题，提出了一种基于油中溶解气体的牵引变压器故障诊断的新方法。以某铁路局管辖内牵引变压器的故障数据来进行仿真分析，验证和分析IPSO-RBF-Adam牵引变压器故障诊断模型的有效性和可靠性。

2 牵引变压器油中溶解气体的分析

2.1 牵引变压器油中溶解气体产生的原理

牵引变压器在正常工作状态下，油中溶解气体的主要成分是O2和N2。当牵引变压器在异常或故障状态下，内部会释放出大量的热量，牵引变压器的油在电、热、磁场和机械力的多重作用下，碳氢化合物发生热裂解和电裂解，在初期主要发生断链反应，碳链持续断裂生成小分子的碳链，随着反应的继续进行，小分子碳链继续发生脱氢反应和断链反应，油中碳氢化合物分子内部的化学键继续断裂后生成新的小分子链和自由基，然后小分子链在自由基的作用下继续发生二次脱氢和断链反应，碳氢化合物分子内部的C—H 键和C—C 键重新组合，最终生成了C2H4、C3H6、CH4、H2、C2H6等特征气体和自由基[15]。

2.2 牵引变压器常见故障与气体的关系

牵引变压器的内部故障，从性质上一般分为热性故障和电性故障两种，热性故障的50%是由内部开关接触不良引起的，其余的50%则是由内部局部短路、铁心接地、导线过热、油道堵塞等所引起的。温度在150～700 ℃的故障被称为中低温过热故障，温度大于700 ℃的热故障称为高温过热。当牵引变压器内部的电磁回路向周围空间或绝缘系统的绝缘材料放电时，就会产生电性故障，电性故障类型主要可分为低能放电、局部放电和高能放电三种[16]。

牵引变压器在正常工作状态下，其内部会产生少量的气体以小分子状态溶解在变压器油中，当变压器内部出现热性或电性故障时，变压器绝缘油在高强度电场的作用下，就会加快变压器内部气体的分解，不同故障类型下分解的气体也有所不同，牵引变压器常见故障与气体成分的关系[17]如表1 所示。

表1 牵引变压器常见故障与气体成分的关系

3 改进PSO 算法

3.1 标准PSO 算法

PSO 优化算法通过研究鸟群捕食行为，设置一个无质量的微粒来模拟鸟群中的鸟，每个粒子在搜索空间中独立寻找当前最优解，将其作为当前粒子的个体极值pbest，个体极值与整个粒子群中其他粒子进行比较，将最佳个体极值作为整个粒子群的当前全局最优解gbest，粒子群的速度和位置更新过程分别如式(1)、(2)所示

式中，id为粒子群的当前迭代次数；ω为惯性权值；c1和c2为加速因子；xid为粒子i第d维的位置；vid为粒子i第d维的速度；r1和r2为[0,1]的随机数。

3.2 改进PSO 算法

标准粒子群算法最主要的缺点是容易产生早熟收敛，易陷入局部最小值。因此本文对惯性权值ω和加速因子c1和c2分别进行改进，防止算法早熟来提高PSO 算法的全局寻优能力。

3.2.1 惯性权重ω的改进

惯性权重ω影响粒子群的整体性能，ω越大粒子的全局搜索能力越强，ω越小粒子的局部搜索能力越强。因此最优惯性权重ω可以平衡粒子的全局搜寻能力和局部搜寻能力增强粒子的寻优性能。当粒子的适应度小于平均适应度时，需要扩大搜索范围来寻找最优值；当粒子的适应度大于平均适应度时，需要缩小搜索范围进行局部精确搜索，本文对惯性权重的改进如式(3)所示

式中，ωmin和ωmax为预设的最小和最大惯性权重系数；f(xid)表示第d次迭代时粒子i的适应度；iter 为寻优步长；itmax为最大迭代次数；fc为第d次迭代时所有粒子的平均适应度。

3.2.2 加速因子c1和c2的改进

用PSO 优化神经网络的权值和宽度向量，加速因子c1和c2的搭配不仅能加快粒子的搜寻速度，而且能降低粒子陷入局部极小值的可能。目前关于加速因子的研究很少，大部分PSO 算法中c1和c2都取默认值2.0 或者c1+c2=4 的固定线性搭配，本文通过构建的二次递增搭配c2=ac12+b、对数递增搭配c2=logac1+b、二次递减搭配c2=-ac12+b和指数递减搭配c2=a-c1+b，通过仿真分析，来研究加速因子c1、c2之间函数关系的变化对粒子群寻优性能的影响。

3.3 改进PSO 算法寻优能力测试

为研究加速因子的4 种非线性搭配对粒子群寻优性能的影响，本节仿真所用四种测试函数如表2所示。

表2 四种测试函数

将标准PSO 算法与改进的二次递增IPSO1 算法、对数递增IPSO2 算法、二次递减IPSO3 算法以及指数递减IPSO4 算法进行仿真对比分析，所有算法迭代次数为500，四种测试函数的仿真迭代如图1～4 所示，测试函数的寻优结果如表3 所示。

图1 Sphere 函数仿真迭代图

图2 Rosenbrock 函数仿真迭代图

图3 Griewank 函数仿真迭代图

图4 Rastrigrin 函数仿真迭代图

表3 四种测试函数的寻优结果

由表3 中四组仿真结果可知，指数形式改进的IPSO4 算法在收敛速度和精度上均优于标准PSO 和其改进PSO 算法。具体可知，IPSO4 在f2、f3和f4上的收敛值均比标准PSO 低出一个数量级；在避免陷入局部最优方面，IPSO4 脱离局部最优的次数多，表明其全局搜索能力更强；由IPSO4 收敛曲线变化趋势可知，IPSO 具有更快的收敛幅度，搭配指数形式改进的IPSO4 算法能更好地平衡全局勘探与局部开发过程的过渡，使得目标函数能更充分地接近最优解。

4 基于Adam 优化的IPSO-RBF 牵引变压器故障诊断

4.1 基于Adam 优化的IPSO-RBF 变压器故障诊断算法

本文所研究的变压器故障数据具有嘈杂、稀疏且参数较大等特点，采用Adam 算法替代标准RBF采用的梯度下降算法进行模型训练，有利于增强算法本身跳出局部最优的能力，使得模型在处理稀疏数据时具有更强的拟合性能。根据Adam 算法的基本原理，把动量的概念与粒子群自适应惯性权重相结合，来研究基于Adam 优化的自适应惯性权重。在粒子群中，根据粒子的动量、粒子当前最优值和群体全局最优值到当前粒子的位置来决定粒子下一次的迭代速度vid，在维度j上粒子i的梯度gij如式(4)所示

引入动量概念的梯度值mij和梯度平方和指数加权平均vij如式(5)所示

为准确表示出对期望值的无偏估计，mij和vij的校正值分别用和表示，其计算过程如式(6)所示

在维度j上粒子i的惯性权重如式(7)所示

式中，α和β是调节系数。

4.2 基于Adam优化的IPSO-RBF牵引变压器故障诊断模型

基于Adam 优化的IPSO-RBF 牵引变压器故障诊断模型如图5 所示。构建模型主要分为三个步骤：IPSO 模块的搭建，RBF 神经网络模块的搭建，基于Adam 算法优化的IPSO-RBF 变压器故障诊断模型。

图5 基于Adam 优化的IPSO-RBF 牵引变压器故障诊断模型

4.3 基于Adam优化的IPSO-RBF变压器故障诊断模型的训练

使用Adam 优化IPSO-RBF 神经网络模型的变压器故障诊断流程如下所示。

步骤1：参数初始化，从训练集中提取m个变压器样本数据。

步骤2：计算损失函数的梯度。

步骤3：更新步长。

步骤4：依据式(5)计算梯度的一阶矩估计mij、二阶矩估计vij。

步骤5：依据式(6)对一阶矩估计mij、二阶矩估计vij进行校正。

步骤6：依据式(7)更新参数ωij，优化RBF 网络的权值和阈值。

基于Adam 优化的IPSO-RBF 变压器故障诊断流程图如图6 所示。

图6 基于Adam 优化的IPSO-RBF 牵引变压器故障诊断流程图

4.4 Adam 模型参数设定

由于本节的模型是基于优化IPSO-RBF 变压器模型产生的，所以RBF 神经网络的参数和IPSO 算法的各参数与前文一致，Adam 算法的各参数如表4所示。

表4 Adam 算法参数

5 验证及分析

根据IEC 60599 和GB/T 72522 标准，通过文献[18]获取的300 组样本数据，选择210 组作为训练样本，90 组作为测试样本，具体的数据集分类如表5 所示。样本由特征气体的含量构成，特征气体主要为H2、CH4、C2H6、C2H4和C2H2，数据精确到0.01 μL/L。本文在Matlab2018b 上运行，配置为Windows 10 系统、i7 处理器。

表5 数据集分类

5.1 牵引变压器故障诊断模型测试

为验证本文模型的有效性，分别采用PSO-RBF、WOA-RBF、改进的IPSO-RBF 和基于Adam 优化的IPSO-RBF 的模型对油中溶解的气体进行仿真分析，四种方法的故障诊断结果分别如图7～10 所示，四种方法的迭代损失率对比如图11 所示。

图7 PSO-RBF 神经网络故障诊断结果

图8 WOA-RBF 神经网络故障诊断结果

图9 IPSO-RBF 神经网络故障诊断结果

图10 基于Adam 优化的IPSO-RBF 神经网络故障诊断结果

图11 四种方法的迭代损失率对比

5.2 牵引变压器故障诊断模型的性能对比分析

为了全面地比较 PSO-RBF、WOA-RBF、IPSO-RBF 和IPSO-RBF-Adam 算法在牵引变压器故障诊断领域中的性能表现，对误差函数的训练误差曲线和测试集的准确率进行对比，四种模型性能对比分析如表6 所示。

表6 四种模型性能对比分析

通过对比模型的训练误差曲线可得，在四种模型中，PSO-RBF 故障诊断模型的训练效果最差，IPSO-RBF 神经网络模型的训练误差曲线在第142次迭代后开始趋于平缓，训练效果明显，说明加速因子的指数递减搭配可以加快粒子的搜索速度，减少粒子陷入局部极小值的可能。基于Adam 优化IPSO-RBF 的变压器故障诊断模型训练效果最好，说明Adam 算法在训练过程中自动对数据集添加轻微的扰动，引入了物理中动量的概念和偏置校正工作保证自适应策略的稳定性，该策略既利用了粒子的特征又满足了惯性权重递减的设置策略，从而提高了模型的迭代能力。

如表6 所示，PSO-RBF 模型、WOA-RBF 模型IPOS-RBF 模型以及IPSO-RBF-Adam 模型的变压器故障诊断识别准确率分别为91.111%、94.444%、95.556%和97.778%。结果表明，采用指数型非线性惯性以及Adam 对PSO-RBF 进行联合改进，能有效增强模型的分类识别性能。在上述四种模型中，识别错误样本个数分别为8、5、4和2。IPSO-RBF-Adam模型识别错误的样本分别出现在高温过热和正常类别，而其他模型含错误识别样本的类别均超过2 组，表明IPSO-RBF-Adam 表明在处理异常数据时具有更强的泛化性能。

文献[19]提出一种基于VSRP 与β-GWO-SVM的变压器故障诊断模型，并与粒子群优化支持向量机模型(PSO-SVM)进行对比，模型诊断精度为91.87%。文献[20]提出了一种基于深度训练网络和改进的模糊C 均值聚类的变压器故障诊断方法，所提方法准确率为93.3%。文献[21]利用多策略改进的麻雀算法对BiLSTM 的相关超参数进行寻优，建立的综合故障诊断模型故障诊断率为94%。文献[22]提出基于线性判别分析(Linear discriminant analysis,LDA)法建立的诊断模型，运用线性判别分析最终诊断准确率为97.27%，结果表明本文所提方法可以有效地提升牵引变压器故障诊断性能。

6 结论

本文将经典动量概念的Adam 算法与粒子群算法相结合，提出了一种基于油中溶解气体的牵引变压器故障诊断新方法。具体如下所述。

(1) 建立PSO-RBF 牵引变压器故障诊断模型，通过加速因子非线性搭配的仿真，研究发现加速因子的非线性指数递减搭配提高了粒子群的寻优能力，降低了粒子陷入局部极小值的可能。

(2) 根据Adam 算法的基本原理，把动量的概念与粒子群自适应惯性权重相结合，融合Adam 算法与PSO 算法各自特点，PSO 算法用于RBF 网络初始值寻优，Adam 用于RBF 网络的结构调整，建立了基于Adam 优化的IPSO-RBF 牵引变压器故障诊断模型，仿真结果验证了所提算法提高了牵引变压器故障诊断模型的诊断速度和诊断正确率，在一定程度上改善了模型的故障识别率，具有一定理论研究和工程实际意义。