基于注意力机制的跨境断面水质预测模型研究

摘" 要： 为了充分掌握水体污染治理效果，为水环境保护和生态治理提供科学依据和技术支持，提出一种基于注意力机制的跨境断面水质预测模型。运用长短期记忆神经网络建立跨境断面水质预测模型，引入注意力机制，建立跨境断面水质预测序列编码矩阵。利用长短期记忆神经网络解码器对序列矩阵数据进行解码操作后，输出跨境断面水质的预测结果。实验结果表明，所提模型可有效提取跨境河流纵向断面水质化学需氧量（COD）时间特征与数据特征，同时可预测跨境纵向断面水质内的余氯、浊度等，且预测跨境断面水质高锰酸盐指数较为准确，应用效果较佳。

关键词： 注意力机制； 长短期记忆神经网络； 跨境断面； 水质预测； 序列编码矩阵； 编解码器； 化学需氧量（COD）

中图分类号： TN911.23⁃34； TP302" " " " " " " " " "文献标识码： A" " " " " " " " " 文章编号： 1004⁃373X（2024）16⁃0145⁃05

Research on cross border section water quality prediction model

based on attention mechanism

ZHU Qiliang， YU Xueting

（School of Information Engineering， North China University of Water Resources and Electric Power， Zhengzhou 450046， China）

Abstract： In order to fully grasp the effectiveness of water pollution control and provide scientific basis and technical support for water environment protection and ecological governance， a cross⁃border section water quality prediction model based on attention mechanism is proposed. A cross⁃border section water quality prediction model is established by means of long short⁃term memory neural networks， and a sequence coding matrix for cross⁃border section water quality prediction is established by introducing attention mechanisms. After decoding the sequence matrix data using a long short⁃term memory neural network encoder， the predicted results of cross⁃border cross⁃sectional water quality are output. The experimental results show that the proposed model can effectively extract the temporal and data characteristics of COD （chemical oxygen demand） in the longitudinal section of cross⁃border river， and can also predict residual chlorine and turbidity in the water quality of cross⁃border longitudinal sections. The prediction of the permanganate index in the water quality of cross⁃border sections is more accurate， and the application effect is better.

Keywords： attention mechanism; long short⁃term memory neural networks; cross border section; water quality prediction; sequence encoding matrix; encoder decoder; chemical oxygen demand

0" 引" 言

随着全球化的加速和工业化的深入，跨境水体的水质受到越来越多的关注，因为它们的水质状况直接影响到周边环境和生态系统，进而影响到人类的健康和生活质量[1⁃2]。因此，对跨境断面水质进行准确预测，对于预防和治理水污染、保护水资源具有重要意义。

目前有很多学者研究跨境断面水质预测模型，如鲁言波等研究的粒子群优化的跨境断面水质预测模型，使用GRU人工神经网络建立预测模型，将跨境断面水质采集数据输入到该模型内，使用粒子群优化算法求解其预测模型后，输出跨境断面水质预测结果[3]。石翠翠等提出一种支持向量回归的水质预测模型，该方法在人工神经网络中，运用回归支持向量机作为分类器，输出跨境断面水质预测结果[4]。马创等提出一种基于遗传算法与支持向量机的水质预测模型，该模型使用遗传算法训练当前数据的特征权重向量，使权重适配当前预测问题，得出跨境断面水质预测结果[5]。以上水质预测方法主要基于统计模型来实现，在预测精度和实时性方面存在一定的局限性。

为了解决上述问题，本文提出一种基于注意力机制的跨境断面水质预测模型。利用传感器在跨境河流断面位置采集水质实时数据，构建跨境断面水质预测模型。引入注意力机制提升模型性能，将跨境断面水质预测综合特征序列编码矩阵进行映射处理，使用长短期记忆神经网络解码器进行解码，输出跨境断面水质预测结果，从而更准确地预测跨境断面的水质状况。

1" 跨境断面水质预测模型

利用传感器在跨境河流断面位置采集水质实时数据，如浊度、溶解氧、余氯、pH值、ORP等数据[6⁃7]，再将以上水质数据输入到长短期记忆神经网络内；长短期记忆神经网络利用水质实时数据建立水质预测序列矩阵，然后将该矩阵输入到特征注意力机制层内，通过特征注意力权重计算后，获取到跨境断面水质数据的特征；再将该特征输入到LSTM编码器内，编码器对该特征进行编码处理后，将其输入到时间注意力机制层内，通过选取时间注意力权重，从时间维度获取跨境断面水质预测的特征；最后通过解码器进行解码操作，输出跨境断面水质预测结果。

1.1" 构建跨境断面水质预测模型

运用长短期记忆神经网络建立跨境断面水质预测模型。该模型神经网络结构分为遗忘门、输入门、细胞更新以及输出门等，其在预测跨境断面水质时，利用遗忘门接收跨境断面水质实时数据后，利用Sigmoid激活函数[8⁃9]评估当前跨境断面水质实时数据的一级状态，获得介于0～1之间的值；再将该值与跨境断面水质实时数据初始记忆状态相乘，遗忘门数值接近1的跨境断面水质实时数据被保留，建立水质预测序列[ft]。[ft]公式如下所示：

[ft=σ（ϖfht-1+xt+bf）] （1）

式中：[ht-1]表示上一个时刻遗忘门细胞输出向量；[xt]表示输入的跨境断面水质实时数据；[bf]表示遗忘门偏置；[ϖf]表示遗忘门权重；[σ⋅]表示激活函数。

将公式（1）结果输入到长短期记忆神经网络的输入门内，输入门对每个细胞对应的跨境断面水质实时数据进行选择后，获取跨境断面水质的候选值向量[Qt]，公式如下：

[Qt=tanh（ϖcht-1+xt-1+bc）] （2）

式中：[ϖc]、[bc]分别表示输入门权重和偏置；[xt-1]为上一个时刻的跨境断面水质数据。

获取到跨境断面水质的候选值向量后，采用长短期记忆神经网络对每个细胞进行更新处理，将细胞状态由[Qt-1]更新到[Qt]，公式如下所示：

[Qt=Qt-1⊙ft+it⊙Qt] （3）

式中：符号“[⊙]”表示“同或”运算符；[it]表示输入门选择后的跨境断面水质实时数据。

通过上述步骤即可完成对于跨境断面水质的预测分析。在此基础上，本文所提出的变压器负荷能力评估模型表达式如下：

[Mt=ft（Qt⊙Qt）] （4）

1.2" 建立跨境断面水质预测序列编码矩阵

引入注意力机制可以帮助跨境断面水质预测模型更好地处理多样化的特征关注，捕捉序列数据的长程依赖关系，以及提升模型的鲁棒性和泛化能力[10⁃11]。这有助于提高模型的预测准确性和可解释性，使得水质预测结果更加可靠。因此，跨境断面水质预测模型在长短期记忆神经网络基础上引入了注意力机制，其中包括特征注意力模块和时间注意力模块。

令[X]表示时间注意力模块接收到的跨境断面水质实时数据矩阵，该矩阵具有[m]行[n]列，在时间为[t]时，该模块计算的跨境断面水质实时数据特征注意力权重[ati]公式如下所示：

[ati=softmax（xti）] （5）

式中[xti∈X]。

通过公式（5）得到跨境断面水质实时数据特征注意力权重，建立特征矩阵[X']；然后将[x'ti]作为输入，通过时间注意力模块获得每个特征的时间特征注意力权重[bti]，公式如下：

[bti=softmax（x'ti）] （6）

式中[x'ti∈X']。

利用公式（6）获得跨境断面水质实时数据特征的时间特征后，建立时间权重矩阵[B]；然后将跨境断面水质数据的特征和时间特征进行融合处理[12]，得到跨境断面水质预测综合特征的序列编码矩阵，公式如下：

[C=MtBTati+bti] （7）

式中[C]表示跨境断面水质预测综合特征序列编码矩阵。通过将水质预测序列转化为编码矩阵，可以对数据进行特征提取。编码矩阵将序列数据按照一定规则进行编码，使得模型能够更好地理解数据的结构和模式，提取有用的特征。

1.3" 跨境断面水质预测结果输出

长短期记忆神经网络编码器⁃解码器是一种常见的模型架构，用于将一个输入序列转换为另一个输出序列。这个结构由编码器和解码器两个主要部分组成。编码器负责将输入序列转换为固定长度的向量表示；解码器是接收编码器的输出，以及先前生成的目标序列的部分作为输入。

长短期记忆神经网络的编码器在本质上是一个循环神经网络，其可将输入的跨境断面水质预测综合特征序列编码矩阵进行映射处理[13⁃14]。令[ci]表示跨境断面水质预测综合特征序列编码矩阵[C]内的任意序列，利用下式进行映射处理。

[ht=C（ht-1，xt）] （8）

式中[ht]表示映射后的跨境断面水质预测综合特征序列。

将映射处理后的数据作为输入，通过长短期记忆神经网络解码器进行解码，输出跨境断面水质预测结果，公式如下所示：

[y（t）=f⋅ht] （9）

式中[f]是激活函数。

通过长短期记忆神经网络解码器进行解码，能够捕捉长期依赖关系，并获取具有自适应能力的跨境断面水质预测结果，这将有助于对水质状况的准确评估。

2" 实验分析

以我国东部某跨境河流作为实验对象，该河流全长447 km，大小支系纵横交错，河流主脉穿过3个省，该跨境河流流域面积为2.33万km2，流域内年降水量为400～600 mm，年均径流量为17.91亿m3。该跨境河流流域范围内水资源较为丰富，但含沙量较大，水土流失问题较为严重，同时流域附近工业较为发达，跨境河流水质存在不同程度污染。然而，在某些河段和下游地区，经过治理和水质改善措施的实施，水质得到了一定程度改善，但对于该跨境河流治理来说任重道远。为此，应用本文模型对该跨境河流的断面水质展开预测，为跨境河流治理提供技术支持。本文使用型号为Hach Sension 8173的水质传感器实时采集水质数据。该传感器可实时采集氨氮、总磷、浊度、溶解氧、pH值、温度等水质数据，传感器安装现场图如图1所示。

水质传感器参数如表1所示。

以该跨境河流某河段纵向断面作为实验对象，在该纵向断面内每隔50 m设置一个预测点，一共设置10个预测点。以河流水质衡量指标COD（化学需氧量）作为衡量指标，使用本文模型的注意力机制提取10个预测点的水质COD时间序列特征和数据特征，提取结果如表2所示。

根据表2可以清晰地看到，在跨境河流的纵向断面内，每个预测点的COD数据特征和时间特征都是独特的。这表明，该河流在各个断面位置的水体质量不尽相同。例如：当关注编码为1的预测点时，其时间特征为15：22，这表明在这个特定的时间点，该预测点的水质中的COD数值较高，说明该处的水体受到了较为严重的污染；进一步观察该预测点的数据特征，其COD数值为23.02 mg/L，这个具体的数值也明确地反映了该预测点的水质污染程度。综上可知，采用本文所提出的方法能够有效地从时间和数据两个维度揭示跨境断面水质的特性，这为后续的跨境断面水质预测提供了坚实的基础。为了更全面地理解和评估跨境断面的水质状况，建议将该方法扩展到更多的预测点，并考虑在不同时间点的水质变化情况，这有助于更好地了解跨境河流的水质状况，并为水质管理和保护提供更有力的依据。

以该跨境河流某段纵向断面作为实验对象，该跨境河流纵向断面的预测点设置如图2所示。

以20天作为预测时间段，使用本文模型在该时间段内对该跨境河流纵向断面6个预测点的水质指标即余氯、浊度进行预测，预测结果如表3、表4所示。

分析表3可知：该跨境河流纵断面靠近上游的监测点，其水质中的余氯数值相对较小；然而，随着时间的推移，水质预测点的余氯数值呈现出逐渐增加的趋势，但增加的幅度较为平缓。这一预测结果表明，随着时间的推移，该跨境断面的水质逐渐变差，水体内的余氯数值不断升高。因此，为了更好地保护和管理跨境断面的水质，需要加强对余氯的监测和控制，以降低其对水质的负面影响。同时，建议进一步研究余氯在水中的扩散和降解机制，为水质管理和保护提供更科学和可靠的依据。

分析表4可知，该跨境断面河流随着时间推移，其水体浊度逐渐上升，但靠近河流下游，预测点编码为4、5、6位置处，水质浊度呈现略低状态，且随着时间增加，该位置处的水质浊度增加幅度小于编码为1、2、3的预测点。原因在于：该跨境断面河流上游河床较窄，纵向呈直线型分布，导致该位置水体流速较大，因此预测点1、2、3位置处的水质浊度较高；而预测点4、5、6位置处，其水质纵向深度数值较大，受河床转弯对水体的缓冲作用，该区域水体流速略缓，同时水质沉积，使得该区域水质浊度有所降低。综合表3和表4的结果，本文提出的方法能够有效地预测跨境断面的水质余氯数值和浊度数值，具有较为显著的水质预测能力，这为水质的管理和保护提供了科学可靠的依据，其应用效果较为显著。

使用本文模型对一段时间内跨境断面水质的高锰酸盐指数进行预测，同时采用实地测量方法获取跨境断面水质内高锰酸盐指数，并与本文预测结果进行对比分析，验证本文模型对跨境断面水质预测的有效性。高锰酸盐指数测试结果如图3所示。

分析图3可知，该跨境断面水质内的高锰酸盐指数随着时间的增加忽高忽低，呈现不规律状态。其原因在于：水质生态具有净化功能，在大自然净化作用下，数值内的高锰酸盐被净化，其指数表现为下降趋势；但受污染物排放，又会导致跨境断面水质内的高锰酸盐指数上升。而本文模型对该跨境断面水质进行预测时，仅在时间为第30天和第40天时，预测结果与其实际值之间存在轻微差异，在其他时间点时预测结果均与实际值完全吻合，这说明本文模型对跨境断面水质预测精度较高，进一步验证了本文模型的实际应用性。

3" 结" 论

为提高水质预测的准确性和实时性，本文提出一种基于注意力机制的跨境断面水质预测模型。通过引入注意力机制，模型能够更好地捕捉数据中的时序依赖关系和特征间的关联性，从而更准确地预测跨境断面的水质状况。实验结果表明，该模型具有较为显著的水质预测能力，对跨境断面水质预测精度较高。所提模型不仅为跨境断面水质预测提供了新的解决方案，也为深度学习技术在环境监测和生态治理领域的应用提供了有益的探索。

参考文献

[1] 王骥，谢再秘，莫春梅.神经网络在养殖水质精准预测方面的研究进展[J].水产学报，2023，47（8）：19⁃34.

[2] 肖燚，郭亚会，李明蔚，等.基于机器学习的地下水水质预测研究[J].北京师范大学学报（自然科学版），2022，58（2）：261⁃268.

[3] 鲁言波，陈湛峰，李晓芳.基于粒子群优化的GRU广东省跨境断面水质预测模型研究[J].生态环境学报，2023，32（9）：1673⁃1681.

[4] 石翠翠，刘媛华，陈昕.基于粒子群算法优化支持向量回归的水质预测模型[J].信息与控制，2022，51（3）：307⁃317.

[5] 马创，王尧，李林峰.基于遗传算法与支持向量机的水质预测模型[J].重庆大学学报，2021，44（7）：108⁃114.

[6] 施珮，匡亮，王泉，等.基于PC⁃RELM的养殖水体溶解氧数据流预测模型[J].农业工程学报，2023，39（7）：227⁃235.

[7] 杨明润，郭星锋，黄元峰，等.基于数据压缩的WSN水质异常数据检测算法[J].电视技术，2022，46（5）：204⁃207.

[8] 张阳，冼慧婷，赵志杰.基于空间相关性和神经网络模型的实时河流水质预测模型[J].北京大学学报（自然科学版），2022，58（2）：337⁃344.

[9] 林钰棽，魏云龙，陈琪琪，等.一种嵌入式计算平台的Sigmoid函数优化方法[J].小型微型计算机系统，2021，42（10）：2053⁃2058.

[10] 夏正新，苏翀.一种多参数学习的门控激活函数[J].南京邮电大学学报（自然科学版），2022，42（5）：83⁃90.

[11] 张俐，陈小波.动态加权条件互信息的特征选择算法[J].电子与信息学报，2021，43（10）：3028⁃3034.

[12] 江钆泓，毕然，杜家豫，等.基于不同水厂水质调查的消毒副产物生成趋势及模型预测[J].环境工程学报，2022，16（2）：515⁃523.

[13] 王昱文，杜震洪，戴震，等.基于复合神经网络的多元水质指标预测模型[J].浙江大学学报（理学版），2022，49（3）：354⁃362.

[14] 赵春兰，李屹，何婷，等.基于动态隶属度的模糊时间序列模型的水质预测研究[J].计算机工程与科学，2022，44（8）：1488⁃1496.