SSA优化深度双向门控循环单元网络的轴承性能退化趋势预测

陈仁祥, 陈国瑞, 徐向阳, 胡小林, 张雁峰

(1.重庆交通大学 交通工程应用机器人重庆市工程实验室,重庆 400074;2.重庆国际复合材料股份有限公司,重庆 400082)

滚动轴承被广泛应用于各种工业装备,其可靠性直接影响设备能否安全、稳定运行[1]。滚动轴承性能退化趋势准确预测能有效避免停机或重大安全事故,因此对其进行性能退化趋势预测尤为重要[2]。

目前滚动轴承性能退化趋势预测主要分为基于物理模型方法与基于数据驱动方法[3]。基于物理模型方法很大程度上依赖于专家经验知识[4];基于数据驱动的方法是通过机器学习或统计学方法从运行数据中探究与退化趋势间的关系,无需依赖专家经验知识,应用更为广泛[5-6]。

循环神经网络及其变体在滚动轴承退化趋势预测中得到广泛应用。如:He等[7]提出基于长短期记忆网络(long short term memory,LSTM)的轴承性能退化预测方法;郑小霞等[8]提出门控循环单元(gated recurrent unit,GRU)对滚动轴承性能退化趋势进行预测。上述方法取得了较好效果,但轴承性能衰退过程实际上是一个在时间上具有前后关系的连续变化过程。以上方法利用单向网络获得正向时序信息,未充分考虑退化序列前后之间的相关性。

双向网络通过学习正向时序信息与反向时序信息能够充分利用退化序列间信息,得到相关学者的关注。申彦斌等[9]提出基于双向长短期记忆网络(bidirectional long short term memory,BiLSTM)的轴承剩余寿命方法。BiLSTM通过双向方式获得时间序列相关性,但其过多的门结构会导致网络结构复杂、耗时较大。双向门控循环单元(bidirectional gated recurrent unit,BiGRU)通过重置门和更新门简化了BiLSTM的网络结构并且具备充分学习正向时间序列与反向时间序列相关性的优点,已崭露头角。陈浩等[10]将双向门控循环单元应用到卫星上,对卫星可调度性任务进行预测。深度网络可以很好地提取特征之间的非线性关系[11],但深度双向门控循环单元网络模型中隐藏层单元数部分参数需要人为设置,隐藏层单元数直接影响网络模型性能,不同参数训练出模型的预测性能差异巨大,并且对于网络模型超参数的选取往往依赖人工专家经验设置,耗费大量的人力与时间。因此对深度双向门控循环单元网络(deep bidirectional gated recurrent unit,DBiGRU)预测模型参数优化尤为重要。目前,麻雀搜索算法(sparrow search algorithm, SSA)通过观察者、发现者和更新者寻找最优参数具有收敛速度快、稳定性好的特点[12]。

综上,提出麻雀搜索算法优化深度双向门控循环单元滚动轴承性能退化趋势预测方法,以深度双向门控循环单元网络中的隐藏层神经元个数作为麻雀搜索算法输入,将预测均方误差作为最大适应度值确定隐藏层神经元个数,获取深度双向门控循环单元最优的隐藏层神经元个数,实现滚动轴承性能退化趋势预测。通过试验证明,所提方法可在非经验指导下获得最优的隐藏层的神经元个数,降低了人为经验选取隐藏层的神经元个数,优化后的深度双向门控循环单元网络可具备良好的预测效果。

1 方法原理

1.1 一维卷积神经网络

卷积神经网络(convolutional neural network,CNN)由卷积层、池化层、全连接层构成[13];一维CNN卷积层采用一系列一维卷积核能够直接对原始时域信号进行特征提取。卷积层通过卷积核对原始特征进行卷积操作;池化层可以降低特征图维度并且可以保持重要信息;全连接层能够整合池化后的时序特征信息,以获得低维特征。通过一维卷积核进行卷积操作能够自适应提取原始时域信号特征,卷积操作后得到输出即为卷积层获取的特征。

S=t(x·w)

(1)

式中:x为输入样本时域信号;w为一维卷积核;S为卷积后得到的特征;t为Relu激活函数,Relu激活函数计算公式为

t(x)=max(0,x)

(2)

池化层不仅能够减少数据量,并且能够保留卷积后特征信息。全连接层每个神经元与上层神经元进行全部连接,能够整合时序信息,计算公式为

F=f(x·w+b)

(3)

式中:F为全连接层的输出;x为全连接层的神经元;w为神经元与输出层之间的权重;b为偏置;f为Sigmoid激活函数,激活函数计算公式为

(4)

1.2 门控循环单元

门控循环单元由重置门和更新门组成[14],重置门决定遗忘多少过去信息,更新门决定是否丢弃旧信息与添加新信息。门控循环单元网络是对LSTM的改进,在保证LSTM能够捕捉输入数据长期依赖关系的同时并简化了LSTM结构,可以有效减少运算时间,其模型简图如图1所示。

图1 GRU模型

rt=σ(w[xt,ht-1])

(5)

zt=σ(w[xt,ht-1])

(6)

(7)

(8)

1.3 深度双向门控循环单元网络构建

双向门控循环单元在原来单向门控循环单元上增加一个反向门控单元网络,通过前向GRU和后向GRU得到两个时间序列相反的隐状态,将得到的隐状态相加得到输出结果,计算公式为

(9)

(10)

(11)

深度双向门控循环单元网络预测模型由输出层、三层BiGRU、全连接层构成,全连接层激活函数为Sigmoid,模型前部分由多层BiGRU层组成,实现对输入时序特征进行逐层提取;最终输入到全连接层以多对一的方式输出下一时刻的预测值,网络结构如图2所示。

图2 深度双向门控循环单元网络结构图

1.4 麻雀搜索算法

SSA是受麻雀觅食行为和反捕食行为启发提出的一种新型群体智能优化算法,其原理如下:

在SSA中,模拟麻雀觅食过程获得优化问题的解。假设在一个d维搜索空间中,存在N只麻雀,则第i只麻雀在d维搜索空间中的位置为Xi=[xil,…,xid],其中i=1,2,…,N,Xid为第i只麻雀在第d维的位置。

发现者一般占到种群的10%～20%,位置更新公式为

(12)

式中:t为当前迭代次数;T为最大的迭代次数;α为(0,1]的均匀随机数;Q为服从标准正态分布的随机数;L为大小为i*d,元素均为1的矩阵;Ri∈[0,1] 和ST∈[0.5,t]分别为预警值和安全值。当R2ST时,侦查麻雀发现捕食者,并立即释放危险信号,种群立刻做反捕食行为,调整搜索策略,迅速向安全区域靠拢。

除了发现者,剩余的麻雀为加入者,并根据式(13)进行位置更新

(13)

侦查预警的麻雀一般占到种群的10%～20%,位置更新为

(14)

式中:β为步长控制参数,是服从均值为0,方差为1的正态分布随机数;K为[-1,1]的随机数,表示麻雀移动的方向,同时也是步长控制参数;e为一个极小常数,以避免分母为0的情况出现;fi为第i只麻雀的适应度值;fg为当前麻雀种群的最优值;fw为当前最差适应度值。当fi≠fg时,表明该麻雀正处于种群的边缘,极易受到捕食者攻击;当fi=fg时,表明该麻雀正处于种群之间,由于意识到捕食者的威胁,为避免捕食者攻击,及时靠近其他麻雀来调整搜索策略,优化方法流程如图3所示。

图3 优化方法流程图

因SSA中麻雀初始生成位置随机,每次位置更新时通过在当前最优位置附近随机找一个位置,且每一维距离最优位置方差将会最小,求解过程具有相当的随机性,能有效保持种群的多样性,使算法在零点附近具有较好的全局搜索能力;而粒子群优化(particle swarm optimization, PSO)算法受限于权重因子C1和C2、权重大小以及粒子最大速度的取值,难以在收敛速度和收敛精度上获得最优值,在搜索后期最优粒子更新出现停滞,陷入局部最优,因此SSA相对PSO更不容易陷入局部最优解。

2 方法流程

在进行滚动轴承性能退化趋势预测时,需构建性能退化指标。首先,利用一维深度卷积神经网络构建性能退化指标,然后进行划分训练样本矩阵与测试样本矩阵,接着搭建深度双向门控循环单元预测模型;然后,将构建的训练样本输入到深度双向门控循环单元网络,由麻雀搜索算法优化DBiGRU神经网络的中隐藏单元数,将均方误差作为适应度值,通过迭代优化获取最优隐藏层神经元数,获得BiGRU最优隐藏单元参数;最后,通过全连接层实现滚动轴承性能退化趋势预测。麻雀搜索优化深度双向门控循环单元网络的滚动轴承性能退化趋势预测流程,如图4所示。具体步骤如下:

图4 方法流程图

步骤1获得性能退化指标,构建训练样本与测试样本;

步骤2构建深度双向门控循环单元网络,将隐藏层单元数作为SSA的输入进行训练;

步骤3以预测值与真实值的均方误差作为适应度值,更新麻雀发现者与加入者的比例;

步骤4达到最大迭代次数后,获取最优隐藏层单元数,得到最优下的BiGRU网络;

步骤5测试样本输入到训练好的预测模型中,通过全连接层实现性能退化趋势预测。

3 试验验证

3.1 试验数据描述

试验采用滚动轴承加速退化全寿命数据来源于法国弗朗什孔泰大学的PRONOSTIA试验台[15],试验台由传动、加载和监测三部分组成,如图5所示。

图5 试验平台示意图

电机最大转速为6 000 r/min,试验轴承型号为NSK6307DU,滚动体直径d=3.5 mm,滚动体数目Z=13,外圈滚道直径Do=29.1 mm,内圈滚道直径Di=22.1 mm,轴承节径Dm=25.6 mm。

试验使用转速为1 800 r/min,负载为4 000 N的数据进行试验,具体如表1所示。采样频率为25.6 kHz,数据采集卡型号为NIDAQCard-9174,每10 s采集一次数据,采样间隔为0.1 s。因载荷施加在水平方向,该方向的振动信号包含更多的退化信息,故选择水平方向振动信号来验证所提方法的可行性。

表1 试验数据介绍

3.2 预测结果评价指标

为评价预测准确性,采用均方根误差(root mean squared error, RMSE)和平均绝对误差(mean absolute error,MAE)作为评价指标。RMSE对异常值比较敏感,MAE不仅考虑了预测值与真实值之间的偏差。即

(15)

(16)

3.3 性能退化指标分析

由于单一退化指标模型无法描述轴承性能随时间退化的趋势,利用一维深度卷积神经网络提取轴承原始时域振动信号的时序特征,构建性能退化指标。一维深度卷积神经网络结构由5层卷积层、5层池化层交替连接,全连接层构成。使用数据集Bearing1-2原始时域信号作为训练集,以训练一维深度卷积神经网络模型,以Bearing1-3作为测试轴承,将测试轴承输入到训练好的模型中,即可得到轴承性能退化指标。为消除性能退化指标的波动,获得更加平滑的性能退化指标,对获得性能退化指标进行滑动平均并归一化处理[16],归一化不仅可以将不同指标统一范围,并且易于性能退化趋势预测模型训练。Bearing1-3性能退化指标如图6所示。

图6 Bearing1-3性能退化指标

由图6可知,随着轴承不断运行,轴承的整体退化趋势较好地呈现出随时间变化的不断变化趋势,能够反映轴承单调性的运行情况并且曲线局部波动较小。该性能退化曲线前期比较平缓,可见轴承处于正常阶段,后期出现明显幅值增大,轴承已然进入退化阶段,所构建的性能退化指标能够表征轴承运行状态。

3.4 优化过程分析

为验证SSA优化双向门控循环单元网络隐藏层单元数的可行性,在SSA每次迭代更新粒子速度和位置后计算整体最优值下的适应度值,得到优化结果和适应度值,第1层、第2层隐藏层单元数目随迭代次数变化而变化的规律如图7所示。由图7可知,随着迭代次数增加更新麻雀位置,适应度值不断减小,适应度值在第3次迭代后趋于稳定,最终得到适应度值最优解,相应得到第1层隐藏层单元数目、第2层隐藏层单元数目与第3层隐藏层单元数目整体最优值。观察图7(a),适应度值在迭代3次后最终稳定在0.064,可见SSA收敛速度较快。图7(b)为第1层隐藏层单元数随着迭代次数的变化,最终稳定在16;图7(c)为第2层隐藏层单元数随着迭代次数增加,稳定在17;图7(d)为第3层隐藏层单元数随着迭代次数增加,稳定在10。由此表明,SSA在优化BiGRU预测模型收敛速度较快。

图7 SSA-BiGRU最优参数

3.5 预测结果对比

为验证所提方法预测效果并验证SSA优化后确定的DBiGRU网络参数的有效性,分别对比PSO优化DBiGRU、未进行优化预测模型DBiGRU进行对比,为减少SSA和PSO的搜索机制产生的随机偏差,对SSA-DBiGRU和PSO-DBiGRU采用重复5组试验后取平均值的方式输出预测结果。预测结果如图8所示(图8中,横坐标“0”指预测起始点,对应于图6中横坐标2 144),RMSE与MAE结果如表2所示。

表2 不同方法预测效果对比

图8 不同预测方法对比图

由图8可知, SSA-DBiGRU预测效果最优,预测值与真实值拟合程度最高,偏差最小,其次是PSO-DBiGRU,DBiGRU。相比于DBiGRU,优化后DBiGRU仍然能够对轴承退化趋势进行准确预测。原因在于优化后BiGRU预测模型具有更好的学习退化序列时间相关性能力。对比图8(a)、图8(c),SSA优化后更加能够准确预测性能退化趋势。结合表2分析,其与未进行优化DBiGRU相比平均绝对误差与均方根误差分别降低了47.61%和54.71%,原因在于麻雀搜索算法能够自动寻优,避免了人为试验确定参数过程无法保证参数的有效性;相较于PSO后DBiGRU预测平均绝对误差与均方根误差分别降低了38.8%和53.48%,原因在于SSA通过高搜索能力能够避免PSO陷入局部最优解。由此证明所提方法可在非经验指导下获取BiGRU网络最优隐藏单元参数,从而能够有效利用退化序列时间相关性,进而精准预测轴承性能退化趋势。

4 应用实例

4.1 试验数据描述

对某型号空间滚动轴承进行加速寿命试验,加速试验需要在地面模拟真空环境中进行,试验台示意图如图9所示。将试验滚动轴承放于真空罐中进行试验,然后通过加速度传感器采集其振动信号。其中,设置转速为1 000 r/min,轴向载荷为5 kg;数据采集卡为NI9234,每4 h采集一次振动信号,采样频率为25.6 kHz,采样长度为100 k,共采集296次,频谱瀑布图如图10所示。

图9 测试试验台示意图

图10 频谱瀑布图

4.2 性能退化指标分析

使用实测空间滚动轴承全寿命数据进行试验验证。所构建的性能退化指标如图11所示。

图11 空间滚动轴承性能退化指标

由图11可知,性能退化指标能够反映轴承运行情况,并且曲线局部波动较小。通过构建的轴承性能退化指标依然能够有效评估退化状态。

4.3 预测效果对比

同3.5节,分别对比PSO优化BiGRU、未进行优化的BiGRU。预测结果如图12所示(图12中横坐标“0”指预测起始点,对应于图11中横坐标266),RMSE与MAE结果如表3所示。

表3 不同方法预测效果对比

图12 不同预测方法对比图

通过图12与表3可知,优化前后拟合程度相差较大,仔细观察图12,SSA-BiGRU的预测效果最优,预测值与真实值拟合程度最高。其与BiGRU相比平均绝对误差与均方根误差分别降低了41.86%和45.58%。相较于PSO-BiGRU平均绝对误差与均方根误差分别降低了21.87%和32.72%。再一次证明所提方法可在非经验指导下获取DBiGRU网络最优隐藏单元参数,能够精准预测轴承性能退化趋势。

5 结 论

为在非经验指导下获取双向门控循环单元中隐藏单元数最优参数,基于麻雀搜索算法优化深度双向门控循环单元的轴承性能退化趋势预测。提出基于麻雀搜索优化深度双向门控循环单元的轴承性能退化趋势预测,将预测值与真实值的均方误差作为适应度值,经过麻雀发现者与捕食者的更新,以获取最优隐藏层单元数目,解决了深度双向门控循环单元网络中隐藏层单元数目依赖经验指导问题。所提方法可在非经验指导下获取最优隐藏层单元数目,为滚动轴承性能退化趋势预测提供了一种新方法。