双向门控循环神经网络的SO2排放浓度预测模型

蒋星明，曹顺安，王民军，陈东，董毕承

(1.武汉大学 动力与机械学院，湖北 武汉 430072;2.浙江浙能中煤舟山煤电有限责任公司，浙江 舟山 316000)

2014年制定的《煤电节能减排升级与行动计划》要求，国内火电站实现超低排放[1]。火电站常用的烟气脱硫技术为湿法烟气脱硫，其中最为广泛使用的是石灰石/石灰-石膏法，然而其有容易堵塞管道的缺点[2]。因此，脱硫系统用于监测烟气排放的设备烟气连续排放检测系统(CEMS)也容易产生探头和传感器堵塞老化的问题，导致SO2排放浓度无法得到较准确的控制[3]。因此，通过人工智能的方法，建立脱硫系统SO2排放浓度的预测模型，不仅能够精准预测SO2排放浓度，也能对电厂运行参数的调整起到指导作用，具有重要的实际意义和应用价值。目前，人工智能已经在脱硫系统的参数预测和智能调控方面得到广泛的应用[4-8]。门控循环神经网络(GRU)具有结构简单、参数少、训练时间短等诸多优点，能同时有效解决由于网格的长期依赖而产生的预测精度不高的问题，已经在交通流量预测[9]、径流预测[10]以及电力负荷预测等[11]领域广泛的应用，但尚未见其在脱硫系统参数预测方面的应用。针对脱硫系统的数据具有大惯性，且影响因素多的特点[12]，对数据进行简化并引入逆向信息可以大幅度提高模型的训练速度和精度。因此，本文提出了一种基于双向门控循环神经网络(biGRU)的预测模型，用于预测脱硫系统的SO2排放浓度，以指导生产实际。

1 基于biGRU的脱硫系统SO2排放浓度预 测模型

1.1 biGRU的基本原理

GRU中包含更新门zt和重置门rt，见图1。更新门控制前一时刻的状态信息保留到当前状态中的程度，而重置门则确定着当前状态与先前的信息结合的程度。

图1 GRU结构示意图Fig.1 Structure diagram of GRU

GRU的原理是利用门单元控制历史和当前信息的传递，其一次向前传递过程如下：

(1)更新门zt和重置门rt同时对t-1时刻的隐藏状态ht-1做线性变换，然后通过激活函数σ(·)将变换后的数值压缩到[0,1]的区间范围内。zt越接近1，则表示现时刻更新信息越多；rt越接近1，则表示过去信息越多。更新门zt和重置门rt对应的数学公式分别为式(1)和式(2)。

zt=σ(Wz·[Xt,ht-1])

(1)

rt=σ(Wr·[Xt,ht-1])

(2)

(3)

(4)

传统的GRU结构通常沿序列方向进行单向传播，每次计算只与过去信息相关。但在考虑到脱硫系统的未来数据受现在数据影响，能对实时数据产生反馈，需要利用未来的反馈信息对模型进行修正。因此，所建立的biGRU网络见图2，biGRU在每个训练序列的前向和后向分别建立两组GRU模型，GRU+为正向网络模型，GRU-为反向网络模型，两组模型的隐藏层节点连接到同一个输出层。这使得每个时间点输入序列都能获取完整的过去和未来信息，进一步分析脱硫系统数据之间的相关性，更加准确、全面地预测排放浓度。

图2 biGRU结构示意图Fig.2 Structure diagram of biGRU

1.2 脱硫系统SO2排放浓度预测模型的建立

biGRU网络在预测复杂非线性时变序列方面具有明显的优势，并且PCA的数据降维方法也可以一定程度上简化运算。因此，以归一化和PCA降维后的数据作为biGRU模型的输入数据。预测模型的结构见图3。

图3 SO2预测模型结构图Fig.3 Structure diagram of SO2 prediction model

模型建立步骤如下：

第一，训练数据预处理。对归一化后的数据进行PCA降维操作，构建输入样本用以训练模型。

第二，建立biGRU网络模型。确定网络的结构，设置训练迭代次数、学习率等网络参数，选择优化算法和损失函数。

第三，训练biGRU网络模型。依据所选的优化算法对网络模型参数进行优化，建立脱硫系统SO2排放浓度预测模型。

第四，预测SO2排放浓度。对预测输出数据进行反归一化处理，并利用评价函数对预测结果进行分析和评价。

2 结果与讨论

2.1 数据预处理

2.1.1 原始数据 原始数据集来源于某火力发电厂脱硫系统的SIS数据库，该数据集包括了进口温度等15个特征变量在内的7 640组数据，具体数据范围见表1。将数据集划分为训练集和验证集，两者比例为8∶2。

表1 原始数据范围Table 1 Original input data range

2.1.2 数据归一化 由表1可知，数据集中的变量存在数量级不一致的问题，直接采用原始的训练集进行训练,会导致模型的不稳定[13]。因此，在进行后续分析之前，需要对原始的输入变量做最大最小法归一化，将数据归一化至[0,1]区间内。计算归一化后输入变量之间的相关系数，部分变量间的相关系数大于0.6，说明这些变量具有较高的重叠信息，需要对数据进行降维简化。

2.1.3 PCA降维 目前，主成分分析(PCA)法是常用的降维方法，能减少运算数据，保留原始特征信息[14]。该方法通过矩阵变换,将初始的多个特征线性组合成几个互不相关的特征指标，从而把高维数据低维化。由图4可知，前7个主成分累计贡献率已经达到84.59%，以累计贡献率85%为筛选标准，选择前7个主成分作为模型的输入变量。

图4 主成分分析帕累托图Fig.4 Pareto diagram of PCA

2.2 模型参数选择

将降维后的数据作为模型的输入，SO2排放浓度作为网络的输出。输入层节点个数为7，输出层节点个数为1，隐藏层神经元个数设置为64，隐藏层层数设置为3，时间步长设为12，初始学习率设为0.001，批处理量设为500。

基于梯度下降的传统算法中学习率一般保持不变，这将导致模型训练过慢，运算效率过低。因此，采用了一种自适应学习率的Adam优化算法[15]。Adam优化算法的作用是经过偏置校正之后，会让参数变得更加的平稳，从而加快训练的过程。在模型训练过程中，还采用了dropout技术[16]，其原理为：在每一次训练中，部分神经网络单元将被随机隐藏，相当于将原始网格简化为隐藏节点较小的网格进行训练，从而在提升训练速度的同时，防止过拟合现象的发生。dropout模块设置在biGRU层中，丢弃率设置为0.3。

网格训练的损失函数选择均方误差(MSE)，计算方法如式(5)：

(5)

按照上述参数设置网络，并进行不同训练步长的训练，得到训练集和验证集损失函数的变化趋势，见图5。

由图5可知，模型的训练集和验证集的损失函数都在前50次训练步长中迅速降低。在第100～300次训练步长中，两者的损失函数呈缓慢下降趋势，但未稳定。当训练步长达到300次之后，模型的训练集和验证集的损失函数都趋于稳定。因此，模型的训练步长设置为300。

图5 损失函数变化Fig.5 Changes of loss function

2.3 结果分析

为了更好地体现biGRU模型的预测精度以及泛化能力，还建立了传统的RNN和LSTM模型，与biGRU模型进行比较。模型的评价指标包括对称平均绝对百分比误差(eSMAPE)和均方根误差(eRMSE)，用于评价模型的预测精度，计算方法分别如式(6)和(7)：

(6)

(7)

biGRU、RNN以及LSTM模型的预测结果分别见图6～图8，表2为各模型的部分预测数据及eSMAPE和eRMSE的比较。

图6 biGRU预测结果Fig.6 Prediction results of biGRU

图7 RNN预测结果Fig.7 Prediction results of RNN

图8 LSTM预测结果Fig.8 Prediction results of LSTM

表2 3种模型的预测结果比较Table 2 Comparison of prediction results of the three models

由表2可知，在脱硫系统SO2排放浓度的预测中，biGRU模型的对称平均绝对百分比误差为2.604%，均方根误差为0.674 mg/Nm3。相比于RNN，分别下降了4.235%和1.942 mg/Nm3；相比于LSTM，分别下降了0.718%和0.443 mg/Nm3。说明biGRU模型不仅有效解决了RNN模型存在的记忆力缺失导致的长期预测效果不佳的问题，而且由于考虑了逆向信息对实时数据的影响，进一步提高了模型训练的精度,预测结果波动更小，稳定性和准确率也更高。

在实际生产中，基于biGRU的脱硫系统SO2排放浓度预测模型完全满足对SO2排放浓度的实时预测的要求，可以更加准确的将预测数据反馈给工作人员，以便工作人员在SO2排放浓度出现超标趋势时，及时进行参数调控，保证脱硫系统的稳定运行。

3 结论

(1)基于biGRU的脱硫系统SO2排放浓度预测模型能够将火力发电厂脱硫系统信息监测数据同时间序列相关联，通过对数据的分析和训练，能够准确地预测脱硫系统SO2的排放浓度。

(2)相较于传统RNN和LSTM模型，biGRU模型能够解决记忆力缺失导致的长期依赖问题，同时引入了逆向信息的反馈，因而预测结果较好，泛化能力较高，其对称平均绝对百分比误差和均方根误差相较于前两者均有所降低。

(3)biGRU模型对深度学习在工业生产现场的应用具有一定的实用价值，能够在生产实际中起到有力的指导作用。