基于ARIMA-LSTM深度学习混合模型的PEMFC老化预测方法

张钰凡, 李玉忍, 马睿, 张宏宇, 梁波

(西北工业大学 自动化学院, 陕西 西安 710072)

随着全球环境与能源问题的日益严重,大力发展新能源技术以减少污染、降低对化石燃料的需求已成为国际共识。各类新型清洁能源中,燃料电池作为一种能将储存在燃料里的化学能直接转化为电能的发电装置,具有高效率、高能量密度、零污染等优势,已广泛应用于交通运输、发电设备等诸多领域。尽管燃料电池在效率以及能量密度上具有较大优势,但较短的使用寿命仍在一定程度上限制了其大规模商业化[1]。因此,对燃料电池构建故障诊断与健康管理系统(prognostic health management, PHM)对于提升其使用寿命和运行性能都有较强意义。老化趋势预测作为燃料电池PHM系统中的重要组成环节之一,由于其对于燃料电池寿命提升有着重要意义,近年来得到了广泛关注[2]。

燃料电池的老化趋势预测是根据燃料电池历史退化数据对其短期退化趋势以及剩余使用寿命进行预测的一个回归过程,目前预测方法主要可以分为基于模型的方法、数据驱动的方法以及结合二者的混合方法。其中,基于模型的方法通常需要构建数学统计模型来准确描述燃料电池的退化机制,模型的准确性将直接影响算法的预测精度:Futter等[3]为研究气体压力、电压以及相对湿度等因素对于PEMFC老化的影响效果,建立了可拟合PEMFC不同运行条件的二维老化模型,对燃料电池老化趋势进行预测;考虑到PEMFC在不同工况下具有不同老化速率,Hu等[4]利用经验公式建立了PEMFC老化模型以预测动态工况下的电压衰退情况;Bressel等[5]提出了一种半经验老化预测模型,选取PEMFC的极限电流密度与电堆电阻作为健康因子并利用扩展卡尔曼滤波进行模型参数辨识;文献[6]建立了燃料电池经验模型,通过修改极化方程方法可有效预测燃料电池的电压衰减以估计退化趋势。以上基于模型方法的预测精度决定于老化模型的精度,然而燃料电池作为一个多约束、多时间尺度、强耦合的复杂非线性系统,其老化的相关机理尚未完全明晰,建立精确模型的难度较大,这在一定程度上将降低了预测结果的可靠性。

相比之下,基于数据驱动的方法可以在无需了解老化机制的情况下,利用采集的历史数据完成老化预测并提高预测精度,因此近年来受到了广泛关注:针对传统循环神经网络所存在的梯度弥散问题,Ma等[7]提出一种基于长短期记忆神经网络的老化预测方法并将之应用于不同燃料电池以验证其可移植性;为预测PEMFC在动态工况下的剩余使用寿命,Li等[8]在利用变参数模型提取健康因子的基础上,通过回声状态网络对燃料电池的电压衰退情况进行预测;除了使用燃料电池输出电压这一变量,部分数据驱动的预测方法同时还将燃料电池的电堆温度、电流等用于学习算法的训练以提高预测的精度[9-10]。考虑到数据驱动方法对于历史数据的依赖性,近年来部分学者对于结合基于模型与数据驱动的混合型方法也展开了研究:Liu等[11]结合自适应神经模糊系统与自适应无迹卡尔曼滤波对燃料电池剩余使用寿命进行预测,动态工况下算法被证实可对燃料电池电压衰退进行精确预测;Wang等[12]所提出的混合型方法则使用了半经验模型的预测结果对数据驱动结果进行修正,方法被证实在长期预测方面具有较好结果。混合型方法虽然可以一定程度上提高预测精度,降低数据依赖,但是在算法复杂度与计算量方面仍需要进一步完善。

考虑到燃料电池老化情况受到了多种因素共同影响,其整体变化呈非线性规律的同时还存在线性趋势,本文提出一种用于PEMFC老化趋势预测的数据驱动深度学习混合模型, 具体贡献可归纳如下:

1) 对常见的时序分析方法,如自回归模型与神经网络模型等,进行了研究和应用,并发现其在线性与非线性拟合方面具有不同的拟合水平。

2) 为确保预测精度并提高预测性能,模型提出了一种深度学习混合算法。算法使用非线性方式对回归模型与神经网络进行了结合,避免了因累加关系缺失导致的预测性能问题。

3) 基于1 154 h的公开数据集,所提出方法被证明具有较好的预测水平。较单一模型而言,混合模型在趋势表达与预测精度方面均有更好表现。

1 燃料电池老化测试

研究中所使用的燃料电池老化数据来源于IEEE 2014 PHM 数据挑战,其老化测试平台基本架构如图1所示[13],测试平台由PEMFC系统、电子负载、控制系统、测试系统以及LabView界面组成。其中PEMFC系统包括有辅助系统(如水热管理系统)与1 kW的燃料电池电堆;控制系统被内部集成于测试台架,一方面用于保证系统和电子负载的正常工作,另一方面LabView接口和传感器所传来的数据进入控制系统后,控制系统将对辅助系统等发送控制信号以保证系统的正常运行。

图1 PEMFC测试平台实物

为保证待测PEMFC电堆的正常工作,测试工作之前首先需要设定各辅助系统的控制参数,具体设定如表1所示。

表1 PEMFC系统控制参数

随后,为采集预测所需数据,首先在70 A电流的稳态工况下对型号为ZSW BZ-100-13-5 PEMFCs的质子交换膜燃料电池进行了为期1 154 h的老化测试。待测电堆由5个燃料电池单体组成,每个单体的有效反应面积为100 cm2,额定工作电流密度为0.7 A/cm2,最大电流密度为1 A/cm2。测试中,台架以毫秒级水平对燃料电池的单片电压、电堆电压、电流及电流密度、气体出入口温度、气体出入口压强、气体流速、空气入口湿度、冷却水流速以及冷却水出入口温度等24个参数进行了测量记录,并最终得到143 862条测量数据。

2 相关方法

本文结合差分整合移动平均自回归模型(ARIMA)与长短期记忆递归神经网络(LSTM)进行了燃料电池的老化趋势预测模型构建,下文将对方法的原理与建立过程展开说明。

2.1 ARIMA模型

ARIMA是常用的时间序列模型之一,旨在通过解释数据序列内部自相关性对变化趋势进行预测,模型中主要参数包括自回归系数q、偏自回归系数p以及差分系数d。该模型可考虑为自回归滑动平均模型(ARMA)的一种扩展,即首先对非平稳随机过程进行差分计算直到序列平稳,随后转化后的平稳序列可以通过如下的ARMA模型进行描述[14]

(1)

式中:Xt为时间序列的当前值;Xt-i为过去i个时刻的序列值;φi,θj分别为模型的自回归系数与滑动平均系数;m,n分别为自回归与滑动平均2个部分的阶数;at代表均值为零的一个残差序列。基于以上思想,ARIMA模型的建立主要分为以下步骤进行:

1) 平稳性检验与d阶差分平稳化处理;

2) 根据信息量准则选取p,q系数;

3) 根据模型残差是否为白噪声序列判断有效性;

4) 模型有效情况下根据历史数据进行预测。

作为最常见的时序分析手段之一,ARIMA模型的建立不需要复杂的回归分析,且参数简明、可解释性强,可以对燃料电池老化趋势进行有效预测。但是作为一种线性建模方法,ARIMA单独使用时无法很好对燃料电池老化数据的非线性部分进行刻画,因此进一步引入了长短期记忆神经网络模型,以提高模型的预测水平和表现性能。

2.2 长短期记忆模型

长短期记忆神经网络是一种特殊的递归神经网络,可被用于解决长期依赖问题以及递归神经网络存在的梯度消失与梯度爆炸问题。

如图2所示,长短期记忆细胞单元由输入门、输出门、遗忘门以及记忆单元组成[15]。其中,xt表示当前数据输入,ht-1,ct-1表示接收到上一节点的输入,yt为当前节点输出,ht,ct则表示传输给下一节点的输出。长短期记忆网络的前向传播可表示为:

图2 长短期记忆细胞构成

首先使用当前数据输入与上一时刻状态拼接训练,得到4个状态

(2)

(3)

(4)

(5)

(6)

最终输出值的确定将通过输出门ot确定,同时通过一个tanh层对当前细胞状态进行缩放并与输出门做乘积,从而可得到当前的隐藏节点ht,相应的输出yt将通过ht变换得到。至此,长短期记忆神经网络的前向传播完成,后续为了更新网络参数,需要得到每个权重的梯度,这一步则将通过时间序列的反向传播算法完成。这一过程中,误差项在向上一个状态逐层传递的过程中几乎不存在衰减。

对于燃料电池老化预测而言,使用LSTM模型可有效适应数据序列中深层次的复杂依赖关系,并且在考虑温度、流量等多变量相互关系的基础上,对数据非线性部分进行拟合,提高预测精确度。

2.3 基于ARIMA的长短期记忆模型建立

本文在结合ARIMA这一传统时间序列预测方法与LSTM神经网络预测模型优点的基础上,构建了一种新兴的非线性混合预测模型,使用ARIMA和LSTM分别对序列的线性及非线性特征进行拟合,完成最终的燃料电池老化预测。混合模型可以在同时考虑时序因素与非线性因素的基础上,基于多维度变量对燃料电池老化进行预测,并具有较高的模型稳定性和准确性。具体的实施流程可表述如下:

1) 通过PEMFC测试平台进行老化数据采集;

2) 对数据进行重构与降噪处理,以提高数据质量,减少异常数据对于算法实施的影响;

3) 使用ARIMA对数据的线性部分进行拟合得到预测值与残差序列,使用LSTM直接对数据的非线性部分即残差序列进行拟合得到预测序列;

4) 使用燃料电池输出电压作为健康评判因子,将ARIMA与LSTM模型预测所得作为输入用于LSTM算法叠加预测,以避免信号无累加关联对结果的影响并最终得到燃料电池输出电压的跌落趋势。图3为以上步骤的整体流程示意图。

图3 ARIMA-LSTM预测流程

3 验证与讨论

3.1 数据处理与模型设定

燃料电池老化测试过程中部分温度、压力相关参数变化情况如图4所示。

图4 PEMFC老化测试部分数据

基于参数变化曲线对燃料电池老化数据进行分析可发现:稳态工况下燃料电池的电堆电压随时间出现了明显波动与下降,而温度、湿度等其他参数均并未出现明显的衰退变化趋势。因此,本文选取PEMFC电堆电压作为燃料电池老化指标来表征燃料电池的老化情况。在此基础上,考虑到燃料电池老化多以小时为单位发生,而测试平台以毫秒级别进行数据采集,所以对原始数据调整间隔进行了重新采样,最终得到如图5所示的3 462组重采样数据用于后续算法训练与验证。

图5 PEMFC电堆电压

对数据的重新采样并未使其质量得到明显提高,仍包含大量噪声与因故障导致的电压骤降等异常信号。为提高数据质量,采用最小二乘平滑滤波进一步对数据进行重构处理,多次对比实验后,指定多项式阶次为1,框长度为31。处理后的数据如图6所示,对比原始数据可发现主要衰退趋势得到保留的同时,噪声与异常数据均得到了有效处理。

图6 核主成分分析结果

图7 数据划分示意图

随后,对具有24维属性的测试数据进行特征提取和降维。考虑到各参数之间数值范围差距较大,为更加可靠地反映出不同变量对于燃料电池性能衰退的影响水平,首先归一化平滑数据,将各变量映射至[0,1]区间。对归一化数据通过核主成分分析进行降维处理,设定多项式核为核函数可得到图6所示的分析结果,取累计方差贡献率为75%后将数据由24维降至7维。

处理后的数据被进一步划分,取前525 h的采样数据用于模型训练,剩余的数据则用于测试和验证。划分后的数据首先被送入ARIMA模型进行处理:经过ADF检验确定数据一次差分后可符合平稳性要求,随后结合考虑AIC与BIC准则与计算负担后取模型阶数(p,d,q)为(4,1,2)。

在LSTM预测模型中,2次使用的模型具有不同输入层,但剩余结构保持相同:首先,为防止训练过程中的发散现象,模型学习率设定为0.005,使用Adam优化器进行训练;随后经多次实验对比不同隐藏层数及迭代次数后,发现随隐藏层及迭代次数的增加精度呈现波动变化,但在200层隐藏层时误差保持为最小,此时对应500次迭代情况下精度最高;因此最终设定模型隐藏层数为200,迭代次数500,并通过在隐藏层后添加Dropout层以避免训练中的过拟合现象。

3.2 预测分析

模型预测中首先将重构数据分别输入ARIMA与LSTM模型中得到ARIMA预测残差序列与LSTM预测序列,之后将二者共同在此输入LSTM预测模型得到最终的老化电压变化趋势预测结果如图8所示。

图8 ARIMA与结合LSTM预测结果

为评估模型的性能效果,本文取均方误差(EMS)、平均绝对误差(EMA)、均方根误差(ERMS)与R2为评价指标,从不同评价角度对预测结果进行评估,相关计算公式为:

(7)

(8)

(9)

(10)

在对比所提出方法与传统ARIMA时序模型预测效果的同时,支持向量机回归(SVR)以及非线性自回归神经网络(NARX)同样被应用于老化数据,不同方法的对比结果如表2所示,NAR及SVR方法的预测结果曲线如图9所示。

表2 预测结果评估对比

图9 NAR与SVM预测结果

结合图表分析可发现,相比ARIMA的单独模型,混合模型有效提高了预测结果的拟合情况,具有更高的预测精度,并且有效改善了ARIMA模型存在的滞后情况。同时通过与NAR时序神经网络以及支持向量回归预测进行对比可以发现,混合模型的各项指标均优于其他方法,以RMSE为主要评判指标时,混合模型可明显提高精度65%～71%。即发挥了混合模型在长期趋势和短期变化中的预测优势,通过捕捉历史数据变化以及多维度数据关联,实现了时序因素和非线性因素的组合预测。整体看来,本文中使用的结合ARIMA模型与LSTM的深度学习混合模型有着更好的预测精度和预测性能。

4 结 论

燃料电池老化预测对于其寿命提升,突破大规模商业化应用瓶颈有着重要意义。由于PEMFC系统是一个强耦合、多时间尺度的复杂非线性系统,同时具备线性与非线性特征,使用单一的传统时间序列模型难以对其数据进行很好的拟合,因此本文提出了一种结合ARIMA与LSTM的深度学习混合模型用于预测燃料电池的性能衰退趋势。

本文所提出的方法同时具备ARIMA模型精确的线性序列预测能力,以及神经网络较强的非线性建模能力。选取燃料电池的输出电压作为燃料电池老化评价指标,ARIMA-LSTM混合模型相比其他经典预测方法有效提高了预测精度,并且可以更好地对燃料电池老化情况进行拟合,从而做出准确的预测判断,以供后续健康管理应用。

方法的性能经对比分析得到验证的同时,数据依赖性较强的问题仍未得到解决,因此在后续工作中将考虑调整模型,通过迁移学习实现小样本精确预测,以缩减对于训练数据的需求,并促进其适用于长期剩余使用寿命预测。