母先应 罗彬 陆志华 李显军 牟毅
关键词:“ 双碳”;深度学习;电力负荷预测;循环神经网络;卷积神经网络
0 引言
全球碳排放量的增长速度虽然有所放缓,但全球二氧化碳排放量仍未到达顶峰。同时,在极端天气的影响下,国内有部分省市首次发生电力储备不足等现象。在这样的背景下。怎样准确、高效地在各种情境下预测电力负荷,从而指导生产生活具备很强的现实意义[1]。目前许多学者已对电力负荷预测方向进行了探索[2-5],例如,文献[2]提出一种基于支持向量机方法的负荷预测模型对区域负荷进行短期预测,以此作为依据逐步开展针对城区的精细化负荷调度研究;文献[3]提出一种改进流形正则化极限学习机的电力负荷预测方法,该方法通过流形正则化理论改善极限学习机的性能,并提出使用贝叶斯优化算法优化模型中各种超参数的选择问题,在实际测试中取得了突出的效果;文献[4]综合考虑电力负荷的空气温度依赖性,使用模糊时间序列方法分别对韩国首尔市区的实际负荷数据对混合模型进行了测试,其结果优于其他典型的动态预测模型。
近年来,深度学习正开始在越来越多的工程领域发挥举足轻重的作用[6-9]。就时序预测任务而言,循环神经网络(Recurrent Neural Networks,RNN) 、卷积神经网络(Convolutional Neural Network,CNN) 均展现出了对该领域强大的处理能力[10-12]。例如,文献[10]通过在金字塔结构中使用卷积神经网络(CNN) 层构建深度学习模型,相较于提取时序数据固定特征的传统方法性能上有较大的提升;文献[11]提出了一种基于互补集合经验模态分解和长短期记忆网络(Long Short-TermMemory Networks,LSTM) 的组合方法,该方法首先将负荷信号分解为高、低频分量,此后使用LSTM神经网络分别对分量进行预测,最后叠加重构得到最终预测结果。
综上所述,深度学习已在电力负荷预测任务中展现出了较传统方法更为优秀的能力,但怎样选取适宜的深度学习结构,将缩短开发周期,提升算法的实用性。本文将聚焦此问题搭建适宜的深度学习模型用于电力负荷预测。
1 基于深度学习的电力负荷预测模型
1.1 循环神经网络单元
循环神经网络的输出综合考虑了先前的序列特征以及当前的序列特征,这样特殊的结构能有效规避信息储存及再利用的问题。因此使用RNN作为基础单元处理电力负荷预测这一类时间序列任务将使模型具备独特的优势。目前,长-短期记忆网络及门控循环单元(Gated Recurrent Unit,GRU) 已在各类科研领域中崭露头角,并成熟地应用在工程任务中。常规RNN容易失去较久前的特征信息,发生梯度消失现象。而LSTM及GRU均能通过设计“门控”结构弥补该种缺陷,其中,前者主要由遗忘门(图1中A结构序号2部分)、输入门(A结构序号3部分)、细胞状态更新(A结构序号1及序号4部分)以及输出门(A结构序号5) 构成。遗忘门通过一定概率将上一层的隐藏细胞状态进行舍弃,从而减少部分冗余信息。其表达式为:
1.2 一维卷积神经网络单元
卷积神经网络对数据特征有较强的学习能力,其一维形式能对时序信号以特定感受野大小的形式,进行滤波并生成特征映射。每个特征图可以被看作不同滤波器对当前时间步时序信号的卷积操作。由于具有权值共享的优势,一个卷积核可以使用预先设定的核尺寸遍历时序信号的局部特征,这个过程较大程度上提升了特征提取过程的效率,避免模型产生过拟合现象。基本的卷积单元包含卷积层和激活函数,其表达式分别为:
电力负荷预测基准模型将使用2个3×3的标准一维卷积单元作为自组织模型编码的候选基因。其结构如图2所示。
2 实验结果分析
2.1 数据集及参数整定
本文选取网上某个地区某段时间内的电力负荷相关数据,共包含26280条信息。数据集中除去负荷数值,还包含温度、湿度等信息,采集频率为1h。此处仅考虑使用历史负荷来预测未来负荷。具体而言,本文依据前24个时刻的负荷下一时刻的负荷,将整个数据集以60%、20%、20%的比例依次划分训练集、验证集及测试集。训练过程中每迭代一遍数据集将进行一次验证,以掌握训练过程中是否发生过拟合现象。每个染色体个体都将进行一次完整的训练后进入到适应度选择过程,完成后续的遗传算法流程中。整个过程在如下硬件和软件条件下完成:处理器为Intel(R) Core(TM) i7-11800H,显卡为Nvidia GTX3060Ti(6G 显存),RAM为16GB,深度学习框架为PyTorch。模型训练和自组织的参数设置如表1所示:
模型训练时的损失函数为均方误差(Mean SquareError , MSE) ,验证与测试指标均为MAPE,其表达式分别如下:
式中:Yi 与Y ′i 分别表示第i个样本的真实值及预测值; n为验证集或测试集样本总数。
2.2 对比实验结果分析
对比实验中选取双向循环神经网络固定层数(4 层)与固定神经元数(64) 分别与CNN搭配后的深度模型作为比较对象,则比较模型分别为:BILSTM、BIGRU、CNN+ BILSTM、CNN+ BIGRU。其指标数据及预测效果图如图3所示。其中预测效果图随机选取了测试集中的150个预测值进行比较。
可以看出,深度学习模型在融入了CNN后预测结果反而有所下降,本文经过不断对比深度模型网络结构得出双向LSTM模型(深度为5层)的模型取得了最优效果,其在测试集合验证集上的MAPE 值分别为4.73 及4.69,在对比网络结构中均取得了最优表现效果。
3 总结
本文提出了一种基于深度学习驱动的电力负荷预测方法。该方法首先以循环神经网络(LSTM、GRU) 作为主要的时序特征提取手段,此后辅以卷积神经网络单元共同作为可组合成高质量预测模型的基础结构;其次,以实际数据展示了该模型的表现效果,并与多种模型进行对比试验,验证了本算法的可行性和有效性。
但是,该方法仅将目前较为成熟的用于时序信号处理的深度学习结构作为主干网络。今后的研究中將继续探索如Transform等单元的具体表现,并设计更为全面、有效的深度学习结构。