基于模糊逻辑的FBiLSTM-Attention短期负荷预测

2025-01-22 00:00:00张岩康泽鹏高晓芝杨楠王昭雷
河北科技大学学报 2025年1期
关键词:负荷预测注意力机制数据处理

摘 要:针对电力负荷数据由于受多种因素的影响具有高度不确定性的问题,将负荷数据的不确定性与深度学习算法相结合,提出了一种基于模糊逻辑的FBiLSTM-Attention短期负荷预测模型,以提高负荷预测的精度。首先,对原始数据进行数据预处理,包括缺失值填充、相关性分析及数据归一化;其次,通过K-Means聚类将每个特征的数据转换成模糊规则引入模糊逻辑的处理,同时,模型结构方面采用双向长短期记忆网络(BiLSTM)和注意力机制(Attention);最后,对所提方法和传统的LSTM与BiLSTM-Attention模型的预测结果进行对比。结果表明,结合了模糊逻辑的模型精确度和鲁棒性都有了明显的提升,具有更好的预测性能。所提模型可以有效提高处理不确定性数据的能力,为负荷预测研究提供了参考。

关键词:数据处理;模糊逻辑;负荷预测;双向长短期记忆网络;注意力机制

中图分类号:TN958.98

文献标识码:A"" DOI:10.7535/hbkd.2025yx01005

收稿日期:2024-04-03;修回日期:2024-06-30;责任编辑:冯民

基金项目:

国家自然科学基金(62233006);河北省高等学校科学技术研究项目(ZD202120 QN2022028)

第一作者简介:

张岩(1983—),男,河北石家庄人,副教授,博士,主要从事负荷预测、智能电网及电力大数据分析方面的研究。

E-mail:yanyanfly163@163.com

FBiLSTM-Attention short-term load forecasting

based on fuzzy logic

ZHANG Yan" KANG Zepeng" GAO Xiaozhi" YANG Nan WANG Zhaolei3

(1.School of Electrical Engineering, Hebei University of Science and Technology, Shijiazhuang, Hebei 050018, China;

2.School of Electrical Engineering and New Energy, Three Gorges University, Yichang, Hubei 44300" China;

3.Ultra High Voltage Branch, State Grid Hebei Electric Power Company Limited, Shijiazhuang, Hebei 050070, China)

Abstract:Aiming at the problem of high uncertainty in power load data due to various factors, a fuzzy logic based FBiLSTM Attention short-term load forecasting model was proposed by combining the uncertainty of load data with deep learning algorithms to improve the accuracy of load forecasting. Firstly, the raw data, including filling in missing values, conducting correlation analysis and normalizing the data, was preprocessed. Secondly, K-Means clustering was used to transform the data of each feature into fuzzy rules and introduce fuzzy logic processing. In terms of model structure, a bi-directional long short-term memory (BiLSTM) and attention mechanism (Attention) were adopted. Finally, the prediction results of the proposed method with traditional LSTM and BiLSTM Attention models were compared. The results show that the model combined with fuzzy logic has significantly improved accuracy and robustness, and has better predictive performance. The proposed model can effectively improve the ability to handle uncertain data, providing reference for load forecasting study.

Keywords:data processing; fuzzy logic; load forecasting; bi-directional long short-term memory(BiLSTM); attention mechanism(Attention)

电力负荷预测对于电力系统与环境保护至关重要。准确的负荷预测可以帮助电力系统规划和运营者合理安排电力供应,避免能源浪费和过度发电,从而减少对环境的不良影响。通过预测负荷,可以优化能源调度和资源分配,促进可再生能源的集成和利用,减少对传统化石燃料的依赖,从而降低温室气体排放和环境污染[1-2]

负荷预测的方法主要分为2种:一种是基于统计学的传统预测方法,另一种则是基于深度学习的先进预测方法。传统统计方法如线性回归模型灰色预测[3-4]、自回归积分移动平均模型(autoregressive integrated moving average model, ARIMA)[5-6]等,在数据维度较低、问题结构较为线性的环境下表现出一定的优越性,当面临非线性问题及大数据环境时,其效果通常弱于深度学习预测算法。目前深度学习算法包括卷积神经网络(convolutional neural network,CNN)[7]、长短期记忆网络(long short-term memory,LSTM)[8-9]、门控循环单元(gated recurrent unit,GRU)[10-11]等,已经在电力负荷预测领域得到了广泛应用并取得了显著的成果。但这些网络是单层的,只能根据历史状态向前编码,无法考虑反向序列的影响。双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)引入了双向计算的思想,它可以实现基于原始的LSTM网络同时进行正向和反向计算,可以同时提取前向和后向信息[12],更好地挖掘负荷数据的时序特征,进一步提高预测模型精度[13]。注意力机制(Attention)的核心思想是获得需要重点关注的注意力焦点,忽略其他无关信息,从而提高预测模型的准确率,使模型可以更加有效地进行预测[14]。但电力负荷数据通常具有高度的不确定性以及随机性,这是由天气和季节等诸多不确定性因素引起的,如果直接利用深度学习算法在原始序列上进行预测,很难达到预期精度。

基于此,本文将模糊逻辑与深度学习算法结合提出了一种基于模糊逻辑的FBiLSTM-Attention短期负荷预测模型,数据集的特征通过K-Means聚类算法被模糊化为多个类别。例如,通过将负荷、温度和湿度等特征分为不同的类别,使得模型能够捕捉这些特征的不确定性和模糊性,在面对不确定性数据时提升其预测性能。最后与传统的LSTM与BiLSTM-Attention模型对比以证明所提模型的优越性。

1 FBiLSTM-Attention模型

本文FBiLSTM-Attention模型各部分功能介绍如下。

1.1 模糊逻辑

模糊逻辑是一种基于模糊集理论的逻辑系统,用于处理不确定性和模糊性信息。与传统的二值逻辑不同,模糊逻辑允许变量在0和1之间的任何值,提供了一种连续的真值表示[15-16]。在本文模型中,模糊逻辑的引入主要有以下几个关键作用。

1)特征的模糊化 数据集的特征通过K-Means聚类算法被模糊化为不同类别,增强了模型对数据内在复杂性的理解和适应能力。

2)模糊逻辑激活函数 自定义的模糊逻辑激活层(基于tanh函数)在网络中引入了非线性,允许模型捕捉复杂的、非线性的依赖关系。

3)提高预测的鲁棒性 由于模糊逻辑能够灵活处理噪声和异常值,它在面对数据波动时通常表现出较好的鲁棒性。

4)融合多种信息 电力负荷预测涉及多种因素,如气温、湿度以及时间等,这些因素的影响是相互关联且难以精确量化的。模糊逻辑可以通过模糊化处理将这些不同类型的信息综合起来,从而提高预测结果的准确性。

1.2 BiLSTM模型

双向长短期记忆网络(BiLSTM)作为一种先进的深度学习模型,近年来在时间序列负荷预测方面得到了广泛的研究和应用,表现出显著的优势[17]。与传统的长短期记忆网络相比,BiLSTM的独特之处在于其双向结构,允许网络不仅从过去到未来处理信息,而且还能够从未来到过去捕获数据的关联性。这一创新的结构使BiLSTM能够捕获更为复杂的模式和依赖关系[18]。本文模型中其作用如下:在电力负荷预测中,BiLSTM模型通过其双向结构、长短期记忆机制和强大的非线性建模能力,能够充分捕捉电力负荷的时间依赖性、季节性波动和突发性事件影响。它能够在电力负荷预测中提供更加准确、鲁棒的预测结果,尤其在面对复杂的时间序列数据时表现出显著的优势。

1.3 注意力机制

注意力机制(Attention)是一种在深度学习模型中用来增强模型对输入特征中重要部分的关注的技术。在深度学习中,Attention允许模型在处理一系列输入数据(如一段文本或时间序列)时,动态地对不同部分的数据分配不同的关注权重。通过这种方式,模型可以学习到哪些部分的信息更为重要,从而更加有效地进行预测[19]。本文模型中其作用如下:Attention通过自动识别和聚焦在输入序列中的重要信息(例如关键时间步、重要特征等),有效提升预测模型的表现。它能够帮助模型捕捉到复杂的非线性关系,改进长时依赖建模,增强模型的可解释性,同时使得预测过程更加灵活和高效。

1.4 FBiLSTM-Attention模型结构

综上,本文基于模糊逻辑的FBiLSTM-Attention模型结构如图1所示。

本文模型具体步骤如下。

step1 对数据集进行预处理,包括数据缺失值的检测和填充、特征相关性分析以及数据归一化处理。

step2 在数据预处理完成后,采用K-Means聚类方法对每个特征的数据进行进一步的转换,将其转化为模糊规则,以此引入模糊逻辑的处理,之后将其输入到BiLSTM模型中。

step3 所提的BiLSTM模型包含2个隐藏层,且每个隐藏层都是一个双向LSTM层,每层后接一个双曲正切模糊激活函数(基于tanh函数),来处理输入数据的非确定性。

step4 将BiLSTM模型的特征作为 Attention层的输入、全连接层作为输出层生成预测结果。

step5 在模型训练过程中,采用学习率衰减和早停策略,当验证集的损失在连续10个epoch中没有改善时,停止训练。这种策略能够有效地防止过拟合,优化模型训练效果。

step6 利用训练好的模型进行预测,计算误差指标,保存预测结果。

2 数据预处理

2.1 缺失值填充

数据预处理和模型输入是机器学习和数据分析的关键步骤。首先,需要对原始负荷数据进行深入的预处理工作。填补缺失值是预处理的一个重要环节,缺失的数据点可能会影响模型的性能,因此选择适当的方法来填补这些缺失值是至关重要的。本文选择线性插值方法来填补缺失数据[20],见式(1)。

yt+k=yt+yt+1-yti×k," 0<k<i ,(1)

式中:yt和yt+1分别为t时刻和t+1时刻的负荷;

yt+k是缺失电力数据。

从图2 a)可以看出数据缺失的部分,经过处理的数据集如图2 b)所示。

2.2 输入特征分析

数据集中影响预测的因素有很多,如果仅仅依靠负荷的历史值进行判断,会导致预测的结果误差较大,并且模型的外推性较低。本文采用Pearson 相关系数法[21]判断各个变量之间的相关性,其计算公式见式(2)。

ρ=Cov(X,Y)Var[X]Var[Y] , (2)

式中:ρ为变量X和Y之间的相关性;Cov(X,Y) 为变量 X和Y 之间的协方差;Var[X]为变量X的方差;Var[Y]为变量Y的方差。

两变量之间相关系数的绝对值|ρ|取不同范围表示相关性强弱,范围为0到 数值越大表示相关性越强,如表1所示,特征之间的相关性如图3所示。

本文中|ρ|的范围定到0.4及以上,仅保留此时的特征。

本数据集的特征包含负荷、风速、温度、湿度和辐照强度,因风速相关性低于0. 故其被排除在最终数据集之外。

2.3 数据归一化

数据归一化是负荷预测中一个不可或缺的部分,由于负荷数据集不单单只有负荷的历史值还有天气等诸多特征,这些特征彼此之间的单位和范围都是不同的,为了减少模型的训练时间和提高预测性能,必须对这些特征进行归一化处理[22]。在完成预测后还需要对预测结果进行反归一化处理得到最终的预测结果。数据归一化公式如式(3)所示。

x*=x-xminxmax-xmin" ,(3)

式中:x*为归一化后的值;x为原始值;xmax为数据中最大值;xmin为数据中最小值。

将模型预测出来的预测结果进行反归一化,如式(4)所示。

x=(xmax-xmin)x*+xmin。(4)

3 算例分析

3.1 评价指标

本文选择3种度量方法来评估模型预测的准确性:相对均方误差(root mean square error, RMSE)、平均绝对误差(mean absolute error, MAE)、以及决定系数R2。RMSE能够量化预测结果与真实值之间的平均偏差;MAE可以帮助评估预测模型在处理样本数据时的整体质量;R2是一个统计学上的度量,用于衡量模型解释目标变量的变动的能力。3个评价指标的具体计算公式见式(5)—(7)。

RMSE=∑ni=1

(i-yi)2n" ,(5)

MAE=1n∑ni=1

|i-yi| ,(6)

R2=∑ni=1

(i-)2∑ni=1

(yi-)2 ,(7)

式中:n为样本的数量;

i为第i个数据的预测值;yi为第i个数据的实际值;为实际值的平均值。

3.2 FBiLSTM-Attention模型参数设置

为了精确地确定深度学习模型的最优参数配置,采用了网格搜索方法。该方法涉及系统地遍历多种参数组合,从而找到在验证集上性能最佳的模型配置。本文模型包含2个隐藏层,且每个隐藏层都是一个双向LSTM层,分别包含64和32个单元,每层后接一个模糊激活函数。此外,本文模型还引入Bahdanau注意力机制以增强性能,其注意力权重的维度是一个重要的参数。在网格搜索中考虑了从16到64的不同维度,以找到最适合数据的配置。经过多轮实验,确定输出的注意力权重的最佳维度为32。本文模型的学习率是另一个关键参数,它决定了模型权重更新的速度。通过网格搜索,测试了从0.001到0.1的不同学习率,发现0.01的学习率能够提供稳定而有效的学习过程。具体参数如表2所示。

3.3 预测结果对比

在本研究中,采用石家庄市某地区2017-11-01—2018-10-31的2份数据集来作为算例进行分析,采样频率为1次/h,样本总数每份为8 760个,其中80%的数据用作训练集,剩余的20%作为测试集。由于数据集样本数量较多,本文选取部分原始负荷数据集进行展示,如图4所示,其中图4 a)与图4 b)的数据集分别用于算例a和算例b的分析中。

所有的实验都基于Python语言并使用TensorFlow架构进行实现,而预测任务设定为单步预测。为了证实本文模型的性能,选择LSTM和BiLSTM-Attention作为参照模型进行对比。

模型的参数确定后,将电力负荷及相关特征的训练集数据输入,经过模型训练及预测得到最终结果,并随机选取部分测试集进行直观地画图展示。各模型的预测结果如图5所示,评价指标如表3所示。

其中图5 a)与图5 b)分别对应于算例a与算例b的预测结果。由图5可以看出,本文模型与真实值的契合度比其他2种模型更高。由表3可知,在算例a的预测中,本文模型的R2达到了0.98 显著高于BiLSTM-Attention和LSTM模型的预测效果,表明了其在解释数据变异性方面的卓越能力。相较于BiLSTM-Attention和LSTM模型,本文模型在MAE上分别减少了9.893和114.747,在RMSE上分别减少了47.575和80.24 说明预测结果与真实数据之间的平均偏差降低,显示了本文模型的精确性。在算例b的预测中,3种模型的R2值差异不大,但本文模型在MAE和RMSE上仍然领先,尤其是在MAE上,展示出了本文模型鲁棒性优于其他2种模型。无论是在算例a还是算例b的预测中,本文模型在多个指标上都超越了传统的2种模型。这些结果集中体现了模糊逻辑与深度学习技术的结合为电力负荷预测带来的显著提升。

4 结 语

提出了一种基于模糊逻辑的FBiLSTM-Attention短期负荷预测模型,通过实验得出以下结论。

1)通过引入模糊逻辑,显著提升了模型处理不确定性数据的能力。模糊逻辑的加入使得模型在不牺牲精度的情况下有效处理模糊和不确定性较高的数据。

2)在数据预处理阶段,采用K-Means聚类方法将原始数据转换为模糊规则,不仅为模型提供了更有结构的输入,而且确保了模糊逻辑可以在模型中得到充分的应用。

3)所提模型结合了BiLSTM和Attention机制,能更有效地捕捉时间序列数据中的长期和短期依赖关系。同时,Attention机制确保了模型可以自动地为输入数据分配适当的权重,从而关注更重要的信息。

综上所述,所提出的基于模糊逻辑的FBiLSTM-Attention短期负荷预测模型在设计和实现上都展现出了明显的优势。经过对石家庄的2份数据集进行算例分析,显示出本文模型在预测精度、鲁棒性以及处理不确定性数据的能力上都有了明显的提高,为未来的电力负荷预测提供了新的研究方向和思路。

尽管本文模型在电力负荷预测方面展现了显著优势,它仍面临一些挑战,如其复杂性导致的高计算需求,以及性能高度依赖于输入数据的质量和特征。因此,未来的研究应着重于简化模型结构,提高其在不同数据环境下的适用性,并探索其在更广泛预测场景的应用,同时融合新兴的机器学习技术,如强化学习和迁移学习,以增强模型的适应性和精确度。

参考文献/References:

[1] 童佳亮.电力数据处理与负荷预测的研究[D].杭州:浙江大学,2023.TONG Jialiang.Research on Power Data Processing and Load Forecasting[D].Hangzhou:Zhejiang University,2023. EYA C U,SALAU A O,BRAIDE S L,et al.Improved medium term approach for load forecasting of nigerian electricity network using artificial neuro-fuzzy inference system: A case study of university of Nigeria, nsukka[J].Procedia Computer Science,202 218:2585-2593.

[3] 徐英,李满君,段振兴,等.基于灰色关联分析的短期电力负荷预测系统[J].电子设计工程,202 30(20):185-188.

XU Ying,LI Manjun,DUAN Zhenxing,et al.Short-term power load forecasting system based on grey correlation analysis[J].Electronic Design Engineering,202 30(20):185-188.

[4] 潘力超.基于分数阶灰色模型的中长期电力负荷预测[D].大庆:东北石油大学,2023.

PAN Lichao.Medium and Long Term Power Load Forecasting Based on Fractional Grey Model [D].Daqing:Northeast Petroleum University,2023.

[5] 汪旭明,张均东,刘一帆,等.基于Elman神经网络修正的ARIMA预测模型[J].上海海事大学学报,202 44(2):57-61.

WANG Xuming,ZHANG Jundong,LIU Yifan,et al.Modified ARIMA prediction model based on Elman neural network[J].Journal of Shanghai Maritime University,202 44(2):57-61.

[6] 郭建鹏,佘颖铃,温步瀛.基于EEMD-ARIMA模型的地区月负荷量预测[J].电力工程技术,2018,37(6):28-32.

GUO Jianpeng,SHE Yingling,WEN Buying.Regional monthly load forecast based on EEMD-ARIMA model[J]. Electric Power Engineering Technology,2018,37(6):28-32.

[7] 张玲,王美萍,田琦,等.基于卷积神经网络的换热站热负荷预测研究[J].建筑节能,202 51(5):67-72.

ZHANG Ling,WANG Meiping,TIAN Qi,et al.Heat load forecasting of heat exchange station based on convolutional neural network [J].Building Energy Efficiency,202 51(5):67-72.

[8] 张珂.基于LSTM组合模型的短期电力负荷预测研究[D].淮南:安徽理工大学,2022.

ZHANG Ke.Research on Short-Term Power Load Forecasting Based on LSTM Combination Model[D].Huainan:Anhui University of Science and Technology,2022.

[9] JAHANI A,ZARE K,MOHAMMAD K L.Short-term load forecasting for microgrid energy management system using hybrid SPM-LSTM[J].Sustainable Cities and Society,2023.DOI: 10.1016/j.scs.2023.104775.

[10]刘可真,阮俊枭,赵现平,等.基于麻雀搜索优化的Attention-GRU短期负荷预测方法[J].电力系统及其自动化学报,202 34(4):99-106.

LIU Kezhen,RUAN Junxiao,ZHAO Xianping,et al.Short-term load forecasting method based on sparrow search optimized Attention-GRU[J].Proceedings of the CSU-EPSA,202 34(4):99-106.

[11]王凇瑶,张智晟.基于量子加权GRU神经网络的电力系统短期负荷预测[J].电力系统及其自动化学报,202 34(1):1-7.

WANG Songyao,ZHANG Zhisheng.Short-term load forecasting of power system based on quantum weighted GRU neural network[J].Proceedings of the CSU-EPSA,202 34(1):1-7.

[12]李泽文,胡让,刘湘,等.基于PCA-DBILSTM的多因素短期负荷预测模型[J].电力系统及其自动化学报,2020,32(12):32-39.

LI Zewen,HU Rang,LIU Xiang,et al.Multi-factor short-term load prediction model based on PCA-DBILSTM[J].Proceedings of the CSU-EPSA,2020,32(12):32-39.

[13]任建吉,位慧慧,邹卓霖,等.基于CNN-BiLSTM-Attention的超短期电力负荷预测[J].电力系统保护与控制,202 50(8):108-116.

REN Jianji,WEI Huihui,ZOU Zhuolin,et al.Ultra-short-term power load forecasting based on CNN-BiLSTM-Attention[J].Power System Protection and Control,202 50(8):108-116.

[14]吴永洪,张智斌.基于麻雀搜索优化的Attention-BiLSTM短期电力负荷预测[J].自动化仪表,202 44(8):91-95.

WU Yonghong,ZHANG Zhibin.Attention-BiLSTM short-term electricity load forecasting based on sparrow search optimization[J].Process Automation Instrumentation,202 44(8):91-95.

[15]魏春阳.基于区间二型模糊模型的抽水蓄能机组调速系统预测控制研究[D].武汉:华中科技大学,2022.

WEI Chunyang.Study on Predictive Control of Pumped Storage Unit Governing System Based on Interval Type-2 Fuzzy Model[D].Wuhan:Huazhong University of Science and Technology,2022.

[16]王尉铭.基于多模态数据与模糊学习的股票预测研究[D].广州:华南理工大学,2022.

WANG Weiming.Research on Stock Price Prediction Based on Multimodal Data and Fuzzy Learning Model[D].Guangzhou:South China University of Technology,2022.

[17]陈悦,杨柳,李帅,等.基于Softmax函数增强卷积神经网络-双向长短期记忆网络框架的交通拥堵预测算法[J].科学技术与工程,202 22(29):12917-12926.

CHEN Yue,YANG Liu,LI Shuai,et al.Traffic congestion prediction algorithm based on CS-BiLSTM framework[J].Science Technology and Engineering,202 22(29):12917-12926.

[18]章佳维.基于多头注意力和BiLSTM的微博情感分析——基于“三孩政策”案例研究[D].武汉:中南财经政法大学,2022.

ZHANG Jiawei.Based on Multi-Headed Attention and BilLSTM Analysis of Public Emotion on Microblog:Case Study Based on \"Three-Child Policy”[D].Wuhan:Zhongnan University of Economics and Law,2022.

[19]唐菲菲,唐天俊,朱洪洲,等.结合注意力机制和Bi-LSTM的降雨型滑坡位移预测[J].测绘通报,2022(9):74-79.

TANG Feifei,TANG Tianjun,ZHU Hongzhou,et al.Rainfall landslide deformation prediction based on attention mechanism and Bi-LSTM[J].Bulletin of Surveying and Mapping,2022(9):74-79.

[20]陈吕鹏,殷林飞,余涛,等.基于深度森林算法的电力系统短期负荷预测[J].电力建设,2018,39(11):42-50.

CHEN Lyupeng,YIN Linfei,YU Tao,et al.Short-term power load forecasting based on deep forest algorithm[J].Electric Power Construction,2018,39(11):42-50.

[21]李云松,张智晟.基于GRU-TGTransformer的综合能源系统多元负荷短期预测[J].电力系统保护与控制,202 51(15):33-41.

LI Yunsong,ZHANG Zhisheng.Multi load short-term forecasting of an integrated energy system based on a GRU-TGTransformer[J].Power System Protection and Control,202 51(15):33-41.

[22]刘迪.电网需求侧分布式用户响应模型及差异化需求响应策略研究[D].北京:华北电力大学,2020.

LIU Di. Research on Demand Side Distributed User Responsemodel and Differentiated Demand Response Strategy[D].Beijing:North China Electric Power University,2020.

猜你喜欢
负荷预测注意力机制数据处理
认知诊断缺失数据处理方法的比较:零替换、多重插补与极大似然估计法*
心理学报(2022年4期)2022-04-12 07:38:02
ILWT-EEMD数据处理的ELM滚动轴承故障诊断
水泵技术(2021年3期)2021-08-14 02:09:20
基于深度学习的问题回答技术研究
基于LSTM?Attention神经网络的文本特征提取方法
基于注意力机制的双向LSTM模型在中文商品评论情感分类中的研究
软件工程(2017年11期)2018-01-05 08:06:09
InsunKBQA:一个基于知识库的问答系统
电力系统短期负荷研究综述
电力系统负荷的一元线性模型预测方法
价值工程(2016年32期)2016-12-20 20:19:59
面向云计算的智能电网负荷预测平台模型研究
基于电力系统负荷预测方法的配电网规划中的实践研究
青年时代(2016年29期)2016-12-09 20:31:03