吴思婕,王怀远
基于集成学习的时间自适应电力系统暂态稳定评估方法
吴思婕,王怀远
(新能源发电与电能变换重点实验室(福州大学),福建 福州 350116)
对于电力系统暂态稳定评估而言,在故障清除后的早期阶段,临界样本间的特征差异不明显,预测准确率低。随着时间推移,准确率提高,但难以保证评估的及时性。针对暂态稳定评估的评估准确性与及时性之间的矛盾,提出了基于集成学习的时间自适应电力系统暂态稳定评估方法。首先,通过EasyEnsemble算法对不平衡数据进行采样,训练出多个不同评估时刻的集成长短期记忆网络分类器,输出样本在不同评估时刻的稳定性预测结果。其次,将评估时刻进行划分,提出了多阶段阈值分类规则,自适应调整阈值,对样本预测结果进行可信度评估。最后,预测结果评估为不可信的样本交由下一评估时刻的模型继续判断,直到可信度达到阈值后输出。在IEEE 39节点系统的仿真结果表明,所提方法相较于其他时间自适应方法具有更优的评估性能,在样本不平衡的情况下该方法实现了更好的修正效果。
深度学习;暂态稳定评估;集成学习;时间自适应评估;样本不平衡
随着电网规模的扩大和交直流输电线路的混合运行,电力系统的复杂程度进一步增加,安全稳定运行越来越具有挑战性[1-3]。这对暂态稳定评估(transient stability assessment, TSA)的准确性与实时性提出了更高的要求。近年来,由于广域测量系统的普及[4-5],同步相量测单元可实时获取电网中的测量数据,这为基于机器学习的TSA提供了支撑。基于机器学习的TSA方法是利用时域仿真或历史运行数据离线训练模型,建立输入数据与暂态稳定性之间的映射关系,之后将该映射用于暂态稳定评估。一旦接收到动态信息,稳定性结果可以在几毫秒内输出。一些浅层学习的算法已应用于TSA,如支持向量机[6-8]、神经网络[9-10]、决策树[11]和极端学习机[12]等。然而,浅层学习的数据挖掘和泛化能力有限,模型的鲁棒性也有待进一步提高。随着深度学习技术的快速发展,原始数据特征可以被自动提取,模型对于海量数据的理解和学习能力大幅提升。因此深度学习算法在TSA中得到广泛应用,如堆叠变分自动编码器[13]、长短期记忆网络(long short-term memory, LSTM)[14]、深度置信网络(deep belief network, DBN)[15]等。文献[16]将卷积神经网络引入到TSA中,利用其强大的特征提取能力,提升模型的泛化能力。文献[17]提出一种基于双向门控循环单元的TSA方法,同时利用回归方法对可靠性低的临界样本进行风险评估。
目前,大多数基于机器学习的TSA方法在故障清除后的固定时刻评估稳定性。然而,在故障清除后的早期,临界情况之间的特征差异并不明显。为了达到高精度,这些方法通常需要等待较长的时间收集更多的特征信息,才能做出暂态稳定评估决策。在这种情况下,TSA的及时性和准确性难以平衡。
为了解决这一矛盾,有部分研究采用时间自适应的方式实施TSA。文献[18]提出基于LSTM的时间自适应评估系统,利用LSTM挖掘数据的时序关系。当样本类别不平衡时,训练模型的鲁棒性不够。文献[19]集成不同结构的DBN,输出分类概率,并设置稳定和失稳两种可信度阈值来衡量结果的可信度。该方法的可信度阈值是固定的,部分重叠区域样本可能会难以分类,导致评估周期长等。文献[20]将两个具有不同代价敏感系数的门控循环单元(gated recurrent unit, GRU)和一个没有偏差的GRU网络进行组合。当两个代价不同的模型预测结果一致时,样本被认为是可信的,否则不可信。该方法所提出的代价敏感系数是固定的,这影响了非临界样本的判别。
针对以上不足,本文提出了一种基于集成学习的时间自适应暂态稳定评估模型,主要贡献如下:
1) 提出了由多个基于LSTM的集成分类器组成的时间自适应框架,故障清除后的每个评估时刻点均有一个集成模型对样本进行稳定性分类;
2) 结合集成学习投票思想和多阶段阈值评估规则,输出稳定性评估结果的可信度。模型的投票阈值根据时间调整,使得难以分类的临界样本能及时输出判别结果;
3) 针对样本类别不平衡的问题,利用EasyEnsemble算法进行数据采样,借助集成策略弥补欠采样的缺陷,充分利用样本信息。
电力系统的暂态过程中,系统的特征量具有明显的时序特性。LSTM是一种特殊的循环神经网络,能更好地处理时间序列数据,并且解决梯度消失和爆炸问题[21],因此本文引入LSTM来解决TSA问题。
典型的LSTM单元可分为3个部分:遗忘门、输入门和输出门,如图1所示。这3个门用于确定应从时间序列中记住哪些信息。细胞状态用于存储相关信息。LSTM网络通过开关3个门和细胞状态来实现时间记忆,以克服梯度消失。
图1 LSTM网络单元结构
当训练样本中稳定与不稳定样本数量的差别较大时,会造成模型的评估倾向性。由于模型在训练过程中,多数类样本对模型参数的调节频率要高于少数类样本,导致模型对多数类样本的拟合效果更优。在现代电力系统中,稳定样本的数量远远多于不稳定样本,这会影响模型的实用性。
为了解决这一问题,本文采用了集成算法中的EasyEnsemble算法。该算法可以解决数据样本极不平衡的问题,同时保留样本的有效信息。此外集成学习将一组LSTM分类器并行训练,组合成一个强分类器,由此提高单个学习算法精度[22-23]。第个评估时刻的模型构建过程如图2所示。
基于集成学习的投票思想,本文提出了一种多阶段阈值评估规则,投票阈值根据评估时刻自适应调整。将故障清除后的评估时刻分为4个阶段,投票阈值如式(1)所示。早期评估时刻,有效的暂态评估信息较少,样本预测结果的准确率低,因此投票阈值设置在较高水平,以牺牲一定的漏判率来保证准确率。然而,过高的阈值会使部分临界样本难以分类,导致评估时刻过长。因此随着每个子分类器的精度不断提高,投票阈值逐渐放宽以满足及时性的要求。
图3 基于时间自适应的TSA框架
本文所提的暂态稳定评估方法可分为离线训练和在线预测2个阶段,详细流程如图4所示。
当检测到故障清除时,PMU的实时数据被发送到控制中心。将所需的特征量输入评估模型,如果结果可信,则立即输出稳定性。反之,模型则需要等待下一个周期的特征。这个过程一直持续到最大评估时刻。
图4 基于时间自适应模型的暂态稳定性评估过程
为了保持TSA模型在线应用的高评估精度,引入了模型更新流程。当系统出现不同的工况,且模型可以很好地预测新场景时,则将新场景保留在历史数据集中。通过设定模型的更新周期,利用历史数据对模型进行周期性更新。当新场景发生,且模型预测错误时,则利用时域仿真法生成与新场景相似的样本集立即更新模型。在模型更新时,可以通过迁移学习[25]、增量学习[26]等技术,提高模型更新效率和泛化能力。
本文以IEEE 39节点系统作为测试系统,对所提方法的有效性进行验证。系统负荷水平考虑80%~ 115%(以5%为变化步长),故障类型均为永久性三相短路,故障位置分别位于线路的10%、50%、90%处。故障持续时间为100~300 ms,采样频率为60 Hz。在该系统上共生成19 800个样本。从中抽取4840个稳定样本和3160个不稳定样本作为训练集;2420个稳定样本和1580个不稳定样本作为测试集。
为避免模型陷入过拟合或欠拟合,所有模型均已采用5折交叉验证进行参数寻优。本文方法的基分类器由1个LSTM层、2个全连接层和1个sigmoid输出层组成。LSTM层有128个神经元,2个全连接层分别有64个和1个神经元。初始学习率设置为0.001,使用Adam优化器进行训练,最大训练次数为200次,批大小为256。
考虑到PMU的采样频率为60 Hz,将故障清除后的每个周期设置一个暂态稳定评估时刻点。为了确保评估的准确性,初始评估时刻点从第3个周期开始,将第10个周期设置为max。
对于本文模型而言,其性能会受到子分类器数量的影响。使用不同数量的子分类器进行实验,子分类器数量从3~17范围内变化(以2为变化步长),最终结果如图5所示。当子分类器的数量小于11个时,预测模型的性能随着子分类器数量的增加而提高。当子分类器的数量超过11个时,准确度保持在一定水平,没有明显提升。考虑到评估速度和模型复杂度,本文选择11个子分类器进行集成。在以上参数条件下,时间自适应评估的详细结果如表1所示。
图5 不同数量的LSTM子分类器的结果
表1 本文模型评估结果
从表1可以看出,在第3个周期后,4000个样本中只有248个不确定样本。到第9个周期,只有1.55%的样本未分类。仿真结果表明,大部分样本在早期能够及时得到正确评估。到第10个周期,模型输出所有不确定样本的结果,最终准确率达到98.80%。该方法之所以能够达到较高的精度,是因为模型根据多级阈值评估规则输出了可信的结果。
在同一数据集上采用固定评估周期的方法(KNN、SVM、DT、SSAE和LSTM)与本文方法进行比较。这些非时间自适应模型采用故障清除后前10个周期的特征进行训练。KNN的参数设置为5。利用欧氏距离函数计算待分类样本与每个训练样本之间的距离。SVM的核函数是径向基函数,超参数=500,=0.1。DT采用CART算法。SSAE采用5层隐含层结构,神经元的数量分别为500、500、250、50、25。固定评估周期的LSTM模型的结构与本文模型一致。不同方法的评估结果如表2所示。
表2 不同方法的评估结果
由于深度学习算法具有更好的数据挖掘能力和函数拟合能力,本文方法比基于浅层学习模型(KNN、SVM和DT)的方法更精确。与SSAE和LSTM(固定周期)两种方法相比,本文方法能达到更好的评估准确性。这是由于本文方法能及早筛选出远离稳定边界的样本,关注临界样本的评估可信度,并且集成学习算法可以提高评估性能。同时本文方法的评估周期更短,能为应急控制预留足够的时间。
为了验证本文方法在时间自适应评估中的性能,将该方法与文献[20]的基于代价敏感的组合模型(cost sensitive based combined model, CSCM)和文献[18]的基于LSTM的暂态稳定评估系统(lstm-based TSA system, TSAS)进行了比较。将两种比较方法的基本模型替换为LSTM,结构和参数与本文模型相同。若CSCM的组合模型中两个偏好相反的模型输出一致,则此组合模型输出评估结果。选择代价敏感系数为30。TSAS中的置信度阈值控制时间自适应评估系统的输出,该阈值设置为0.01。3种方法的时间自适应评估结果如图6所示。
图6 不同时间自适应方法的评估结果
表3 时间自适应评估模型的ART、训练时间和测试时间
为了验证本文方法在处理数据不平衡方面的性能,将该方法与两种时间自适应方法[18,20]进行比较。同时在TSAS的基础上,结合其他处理数据不平衡的算法进行暂态稳定性评估。这些数据不平衡处理算法包括随机欠采样、自适应合成采样(adaptive synthetic sampling, ADASYN)[27]和合成少数类过采样技术(synthetic minority oversampling technique, SMOTE)[28]。本次测试随机选择8000个样本(6000个稳定样本,2000个不稳定样本)作为训练集,4000个样本(2000个稳定样本,2000个不稳定样本)作为测试集。各个方法的评估结果如表4所示。
表4 数据不平衡的情况下不同方法的评估性能
CSCM和TSAS两种时间自适应评估方法由于没有对数据不平衡进行处理,误判率较平衡情况下均增加。随机欠采样算法舍弃了部分稳定样本来保证两类样本的平衡。但该方法的样本覆盖量不够,会丢失部分样本信息。SMOTE和ADASYN属于过采样的方法,通过合成少数类样本以平衡两类样本数量。但少数类集中有大量类似的数据,容易导致模型过拟合。因此,3种算法的不稳定样本误判率均不能显著降低。本文采用EasyEnsemble算法得到的训练子集是类别平衡的,训练出的模型子集没有评估倾向性,且数据覆盖率好,不需要丢失真实数据。修正后不稳定样本的预测错误率和稳定样本的预测错误率之比最接近1,具有最高的正确率。
从评估周期的角度看,本文方法在保证较高分类准确率的同时,更早地给出可信的暂态稳定评估结果。
以电力系统暂态稳定时序数据为基础,本文提出了基于集成学习的时间自适应电力系统暂态稳定评估方法。时间自适应框架由一组基于LSTM的集成分类器和多阶段阈值评估规则构成。在IEEE39节点系统上的仿真结果表明:1) 通过集成学习算法弥补了弱分类器的缺陷,建立了强分类器,相比于其他深度学习算法,具有更优的评估性能。2) 提出的投票阈值随时间自适应变化,不确定样本数随时间推移逐渐下降。与其他时间自适应评估方法相比,本文方法在更短的评估周期内输出高可信度的预测结果,有利于紧急控制措施的实施。3) 通过集成学习算法,对样本均衡采样,改善了样本不平衡问题。其中代价高的不稳定样本的误判率显著降低,提高了模型的实用性。
当系统运行模式或拓扑结构发生重大变化时,快速更新训练后的模型是一个重要问题。因此,后续将围绕迁移学习和增量学习展开。
[1] 周艳真, 查显煜, 兰健, 等. 基于数据增强和深度残差网络的电力系统暂态稳定预测[J]. 中国电力, 2020, 53(1): 22-31.
ZHOU Yanzhen, CHA Xianyu, LAN Jian, et al. Transient stability prediction of power systems based on deep residual network and data augmentation[J]. Electric Power, 2020, 53(1): 22-31.
[2] 刘俊, 孙惠文, 吴柳, 等. 电力系统暂态稳定性评估综述[J]. 智慧电力, 2019, 47(12): 44-53.
LIU Jun, SUN Huiwen, WU Liu, et al. Overview of transient stability assessment of power systems[J]. Smart Power, 2019, 47(12): 44-53.
[3] 常康, 徐泰山, 郁琛, 等. 自然灾害下电网运行风险控制策略探讨[J]. 电力系统保护与控制, 2019, 47(10): 73-81.
CHANG Kang, XU Taishan, YU Chen, et al. Discussion of power system operation risk control strategy in natural disasters[J]. Power System Protection and Control, 2019, 47(10): 73-81.
[4] ZHAO Jinquan, ZHANG Yujie, ZHANG Pan, et al. Development of a WAMS based test platform for power system real time transient stability detection and control[J]. Protection and Control of Modern Power Systems, 2016, 1(1): 37-47.
[5] 刘林青, 葛云龙, 李梦宇, 等. 基于量测数据和数据驱动技术的配电变压器状态监测与故障诊断[J]. 高压电器, 2020, 56(9): 11-19.
LIU Linqing, GE Yunlong, LI Mengyu, et al. Condition monitoring and fault diagnosis of distribution transformer based on measurement data and data-driven technology[J]. High Voltage Apparatus, 2020, 56(9): 11-19.
[6] 李亮, 范瑾, 闫林, 等. 基于混合采样和支持向量机的变压器故障诊断[J]. 中国电力, 2021, 54(12): 150-155.
LI Liang, FAN Jin, YAN Lin, et al. Transformer fault diagnosis based on hybrid sampling and support vector machines[J]. Electric Power, 2021, 54(12): 150-155.
[7] 姜涛, 王长江, 陈厚合, 等. 基于正则化投影孪生支持向量机的电力系统暂态稳定评估[J]. 电力系统自动化, 2019, 43(1): 141-148.
JIANG Tao, WANG Changjiang, CHEN Houhe, et al. Transient stability assessment of power system based on projection twin support vector machine with regularization[J]. Automation of Electric Power Systems, 2019, 43(1): 141-148.
[8] HU Wei, LU Zongxiang, WU Shuang, et al. Real-time transient stability assessment in power system based on improved SVM[J]. Journal of Modern Power Systems and Clean Energy, 2019, 7(1): 26-37.
[9] 张晓英, 史冬雪, 张琎, 等. 基于CPSO-BP神经网络的风电并网暂态电压稳定评估[J]. 智慧电力, 2021, 49(10): 38-44.
ZHANG Xiaoying, SHI Dongxue, ZHANG Jin, et al. Transient voltage stability assessment of power system integrated with wind power based on CPSO-BP neural network[J]. Smart Power, 2021, 49(10): 38-44.
[10] 魏文兵, 毛钧毅, 荣娜, 等采用随机矩阵与CNN的暂态电压稳定快速评估[J]. 电网与清洁能源, 2020, 36(11): 68-76.
WEI Wenbing, MAO Junyi, RONG Na, et al. Fast evaluation of transient voltage stability using random matrix and convolutional neural network[J]. Power System and Clean Energy, 2020, 36(11): 68-76.
[11] 朱利鹏, 陆超, 孙元章, 等. 基于数据挖掘的区域暂态电压稳定评估[J]. 电网技术, 2015, 39(4): 1026-1032.
ZHU Lipeng, LU Chao, SUN Yuanzhang, et al. Data mining based regional transient voltage stability assessment[J]. Power System Technology, 2015, 39(4): 1026-1032.
[12] 陈振, 肖先勇, 李长松, 等. 基于代价敏感极端学习机的电力系统暂态稳定评估方法[J]. 电力自动化设备, 2016, 36(2): 118-123.
CHEN Zhen, XIAO Xianyong, LI Changsong, et al. Power system transient stability assessment based on cost-sensitive extreme learning machine[J]. Electric Power Automation Equipment, 2016, 36(2): 118-123.
[13] 王怀远, 陈启凡. 基于堆叠变分自动编码器的电力系统暂态稳定评估方法[J]. 电力自动化设备, 2019, 39(12): 134-139.
WANG Huaiyuan, CHEN Qifan. Transient stability assessment method of electric power systems based on stacked variational auto-encoder[J]. Electric Power Automation Equipment, 2019, 39(12): 134-139.
[14] 朱轶伦, 罗烨锋, 高强, 等. 基于LSTM的电力暂态稳定在线评估及预测研究[J]. 电网与清洁能源, 2021, 37(3): 38-46.
ZHU Yilun, LUO Yefeng, GAO Qiang, et al. Research on online assessment and prediction of power system transient stability based on LSTM[J]. Power System and Clean Energy, 2021, 37(3): 38-46.
[15] 蔡国伟, 张启蒙, 杨德友, 等. 基于改进深度置信网络的电力系统暂态稳定评估研究[J]. 智慧电力, 2020, 48(3): 61-68.
CAI Guowei, ZHANG Qimeng, YANG Deyou, et al. Research on power system transient stability assessment based on improved deep belief network[J]. Smart Power, 2020, 48(3): 61-68.
[16] 田芳, 周孝信, 史东宇, 等. 基于卷积神经网络的电力系统暂态稳定预防控制方法[J]. 电力系统保护与控制, 2020, 48(18): 1-8.
TIAN Fang, ZHOU Xiaoxin, SHI Dongyu, et al. A preventive control method of power system transient stability based on a convolutional neural network[J]. Power System Protection and Control, 2020, 48(18): 1-8.
[17] 杜一星, 胡志坚, 李犇, 等. 基于双向门控循环单元的电力系统暂态稳定评估[J]. 电力系统自动化, 2021, 45(20): 103-112.
DU Yixing, HU Zhijian, LI Ben, et al. Transient stability assessment of power system based on bi-directional gated recurrent unit[J]. Automation of Electric Power Systems, 2021, 45(20): 103-112.
[18] YU J Q, HILL D J, LAM A Y S, et al. Intelligent time-adaptive transient stability assessment system[J]. IEEE Transactions on Power Systems, 2018, 33(1): 1049-1058.
[19] 邵美阳, 吴俊勇, 李宝琴, 等. 基于两阶段集成深度置信网络的电力系统暂态稳定评估[J]. 电网技术, 2020, 44(5): 1776-1787.
SHAO Meiyang, WU Junyong, LI Baoqin, et al. Transient stability assessment of power system based on two-stage ensemble deep belief network[J]. Power System Technology, 2020, 44(5): 1776-1787.
[20] CHEN Qifan, WANG Huaiyuan. Time-adaptive transient stability assessment based on gated recurrent unit[J]. International Journal of Electrical Power & Energy Systems, 2021, 133.
[21] 陈桂芳, 董秀成, 郑永康, 等. 基于长短期记忆网络的继电保护测试故障诊断研究[J]. 电力系统保护与控制, 2022, 50(5): 65-73.
CHEN Guifang, DONG Xiucheng, ZHENG Yongkang, et al. Fault diagnosis of a relay protection test based on a long short-term memory network[J]. Power System Protection and Control, 2022, 50(5): 65-73.
[22] 叶远波, 黄太贵, 谢民, 等. 基于多模型融合集成学习的智能变电站二次设备状态评估[J]. 电力系统保护与控制, 2021, 49(12): 148-157.
YE Yuanbo, HUANG Taigui, XIE Min, et al. A state assessment method for intelligent substation secondary equipment based on multi-model ensemble learning[J]. Power System Protection and Control, 2021, 49(12): 148-157.
[23] 汪颖, 陈春林, 肖先勇. 电压暂降源异质堆叠集成学习识别法[J]. 电力系统保护与控制, 2021, 49(15): 1-8.
WANG Ying, CHEN Chunlin, XIAO Xianyong. Heterogeneous stacking integrated learning identification method for voltage sag sources[J]. Power System Protection and Control, 2021, 49(15): 1-8.
[24] 杨东升, 吉明佳, 周博文, 等. 基于双生成器生成对抗网络的电力系统暂态稳定评估方法[J]. 电网技术, 2021, 45(8): 2934-2945.
YANG Dongsheng, JI Mingjia, ZHOU Bowen, et al. Transient stability assessment of power system based on DGL-GAN[J]. Power System Technology, 2021, 45(8): 2934-2945.
[25] 杨为, 朱太云, 张国宝, 等. 电力物联网下基于卷积神经网络和迁移学习的GIS局部放电模式识别分类方法研究[J]. 高压电器, 2020, 56(9): 20-25, 32.
YANG Wei, ZHU Taiyun, ZHANG Guobao, et al. Research on partial discharge pattern recognition and classification in GIS based on convolutional neural network and transfer learning in power internet of things[J]. High Voltage Apparatus, 2020, 56(9): 20-25, 32.
[26] 田园, 汪可友, 徐晋, 等. 电力系统参数空间暂态稳定边界构建及在线快速更新方法[J]. 电力系统自动化, 2021, 45(9): 89-97.
TIAN Yuan, WANG Keyou, XU Jin, et al. Construction and online fast update method for transient stability boundary in parameter space of power system[J]. Automation of Electric Power Systems, 2021, 45(9): 89-97.
[27] TAN Bendong, YANG Jun, TANG Yufei, et al. A deep imbalanced learning framework for transient stability assessment of power system[J]. IEEE Access, 2019, 7: 81759-81769.
[28] CHAWLA N V, BOWYER K W, HALL L O, et al. SMOTE: synthetic minority over-sampling technique[J]. Journal of Artificial Intelligence, 2002, 16: 321-357.
Transient stability assessment of power system with time-adaptive method based on ensemble learning
WU Sijie, WANG Huaiyuan
(Key Laboratory of New Energy Generation and Power Conversion (Fuzhou University), Fuzhou 350116, China)
For power system transient stability assessment, the characteristic differences of critical samples are not obvious in the early stage after fault clearance, and the prediction accuracy is low. Over time, the evaluation accuracy improves, while the timeliness of the evaluation is difficult to ensure. Aiming at the contradiction between the accuracy and timeliness of transient stability assessment, a time-adaptive transient stability assessment method of power system based on ensemble learning is proposed. First, the unbalanced data are sampled by the EasyEnsemble algorithm. Ensemble LSTM classifiers with different evaluation cycles are trained. Thus, the stability prediction results of samples in different evaluation cycles are output. Second, the evaluation moments are divided and multi-stage threshold classification rules are proposed. The threshold is adjusted adaptively to evaluate the reliability of the prediction results. Finally, the samples whose prediction results are evaluated as unreliable are handed over to the model of the next evaluation cycle for judgment until the reliability reaches the threshold. The simulation results in the IEEE39 bus system show that the proposed method has better performance than other time-adaptive methods; in the case of unbalanced samples, the method achieves a better correction effect.
deep learning; transient stability assessment; ensemble learning; time-adaptive assessment; imbalanced samples
10.19783/j.cnki.pspc.220282
国家自然科学基金项目资助(51707040)
This work is supported by the National Natural Science Foundation of China (No. 51707040).
2022-03-06;
2022-05-31
吴思婕(1997—),女,硕士研究生,研究方向为机器学习在电力系统中的应用;E-mail: 978336273@qq.com
王怀远(1987—),男,通信作者,博士,副教授,研究方向为电力系统运行与控制。E-mail: 79749544@qq.com
(编辑 周金梅)