深度学习在电力系统中的应用研究综述

叶 琳， 杨 滢， 洪道鉴， 陈新建

（1. 国网浙江省电力有限公司， 杭州 310007；2. 国网浙江省电力有限公司台州供电公司， 浙江 台州 318000）

0 引言

人工智能、 机器学习和深度学习是当今机器智能领域最流行的词汇。 机器学习可以看作人工智能的一个分支， 而深度学习则是一种特殊的机器学习手段[1]。 下文将以深度学习为重点介绍几种常见的机器学习方法的特点及其在电力系统运行领域中的应用。

深度学习的兴起源于计算机计算能力的增强和大数据技术的发展， 其核心思想是通过增加神经网络的层数来让机器自动地从大规模数据中抽取特征。 深层神经网络技术能够取得巨大进步和其在训练算法上所取得的重大进展是分不开的。传统的反向传播算法随着传递层数的增加， 残差会越来越小， 出现所谓的“梯度弥散”现象， 因而不适合深层网络的训练[2]。 为了解决该问题，1997年Hochreiter 和Schmidhuber 提出了LSTM（长短时记忆网络）。 LSTM 隐藏层的关键是信息流， 它负责将存储器信息从序列的初始位置传输到序列的末尾， 并利用4 个相互交互的“门”单元， 来控制在每一时间步对记忆信息值的修改。 LSTM 模型不但解决了梯度消失问题， 还能长时间保持信息。 另一种方法是Soeer 等人于2011 年提出的时间递归神经网络， 该模型被广泛应用于句子组块和语法处理。 与时间递归神经网络相对应的是结构递归神经网络， 该结构将数据在空间维度上展开， 并以一种结构树的形式进行展示， 数据之间的联系体现为整体与局部之间的空间组合关系。

当今使用较为广泛的还有一种称为CNN（卷积神经网络）的模型， 与传统神经网络的全连接结构不同， CNN 采用局部连接的结构， 显著削减了网络中自由参数的数目， 从而使得使用反向传播进行并行学习成为可能。 CNN 的结构避免了对输入数据复杂的预处理， 直接对输入数据进行处理， 实现了端到端的学习过程。

综上所述， 深入学习技术具有两大明显优势：在不依赖监督信息的情况下从未标记的数据中进行学习的能力； 特征的自动提取能力[3]。

1 机器学习关键及前沿技术

综合分析现有技术文献发现， 当今机器学习关键及前沿技术主要有： 迁移学习、 强化学习、生成对抗神经网络、 胶囊网络、 引导学习等。

迁移学习松弛了常规机器学习中训练数据和测试数据必须遵从独立分布的约束， 使其能够获得两个不同但又彼此联系的数据集间的特征与信息， 从而实现先验知识的迁移和重复使用。 有关此方法的文献报道较多， 不再赘述。

强化学习主要用于解决决策优化的问题， 即在特定状态下， 采取什么行动才能使收益最大。有关此方法的文献报道较多， 不再赘述。

生成对抗神经网络利用已有数据生成充分接近源数据的生成数据， 一定程度上解决数据量不足的问题[20]。

胶囊网络不仅可以学习输入数据的特征， 还可以学习特征的变形（例如图像的旋转、 移动等），降低了网络的复杂度。

引导学习将知识分析与数据分析挖掘相融合，实现结合人类积累经验与机器智能共同解决问题，达到在经验指导下的机器学习。

1.1 强化学习

人工智能的三大驱动力是大数据、 机器学习和GPU（图形处理单元）。 其中机器学习可以分为3 种类型： 监督学习、 无监督学习和强化学习[4]。

强化学习尝试解决决策优化的问题[5-7]， 其最流行的应用之一是谷歌AlffaGo 的升级——AlphaGo Zero。 相比AlphaGo， AlphaGo Zero 放弃了先验知识， 不必人为设计特征， 直接将棋盘上黑白棋子的摆放情景作为原始数据输入到机器模型中， 机器采用强化学习进行自我博弈， 不断提升自身水平最终出色完成整个比赛。 AlphaGo Zero的成功证实了即使没有人类的经验和指导， 通过深度强化学习仍然可以出色完成指定任务。

1.2 迁移学习

目前， 大部分机器学习具有良好应用效果的前提是： 训练数据和测试数据的特征和分布情况一致。 如果2 组数据差异较大， 机器学习算法需要耗费较长时间来获得新的训练数据， 同时也要重新训练模型[8-12]。 因此， 对于每个执行任务来说，传统机器学习都要通过训练随机获取的数据来进行学习。 人类可以灵活应用自己的知识来快速求解新问题或找到更好策略， 比如一个人在学会蛙泳之后， 再学自由泳就可以很快掌握。 由此学者们受到启发， 开始研究迁移学习[12-16]。 与传统机器学习不同的是， 迁移学习旨在将一个领域（源领域）中已经学习的知识和数据应用到其他相近领域（目标领域）， 用于解决目标领域数据缺乏问题，使得目标领域能够取得更好的学习效果[17-19]。

1.3 生成对抗神经网络技术

强化学习算法成功促进了深度学习的进步，但这种算法是经过平均最大化的最终奖励来实现训练目的， 其结果也由“奖励函数”给出。 然而，很难给出奖励函数来精确地评估来自周围环境的反馈， 故强化学习算法在实际运用上存在很大局限性。 2014 年Ian J. Goodfellow 在文献[20]中首次定义了对抗网络模型， 其思想源于博弈论中的二人零和博弈。

该模型由判别模型和生成模型组成。 对抗神经网络通过生成模型来学习数据分布情况， 然后生成新的数据。 例如， 从大量图片中进行学习，然后生成新的照片[21]。 此外对抗网络模型具有强大的表达能力， 可以在向量空间内执行算术运算，并能够将其转化为特征空间内的运算。

1.4 胶囊网络技术

深度CNN 对某类别的数据集进行适当训练后， 可以对属于此类别的数据进行较好的预测。但是如果更改了输入数据的一部分（例如一些图像像素）， 训练好的网络分类效果就会变差。 为此Hinton 等人提出了胶囊网络的概念[22-23]。 在传统神经网络中， 如果需要具有更强的学习能力， 通常做法是增加网络的层数； 而胶囊网络则是通过在该层的里面嵌套新的层， 这样便形成一个内部嵌套层， 称为胶囊。 因此胶囊网络可近似看作将传统网络中的输入层、 中间层及输出层的标量扩展为向量。

CNN 虽然代表着图像识别领域内的较高技术， 但还是存在着一些问题。 例如图1（b）对图1（a）的绵羊图像进行了一定的平移和旋转， CNN若要得出它们是同一种动物的结论需要使用复杂的算法。

图1 绵羊图像识别

由于胶囊网络不但可以学习输入数据的特征， 还可以学习特征的变形。 这样利用胶囊网络便可容易得出图1（a）与图1（b）为同一只绵羊的结论[4]。 有了这种检测能力后， 采用同一组胶囊单元便能够实现对不同特征的变体（例如旋转、 移动及其组合）的检测。

1.5 引导学习

文献[24]和[25]提出了基于“知识功能单元”的机器学习方法。 该方法模拟学校学生的学习情境，教授将所具备的知识、 技能传授给学生， 学生将所学到的知识应用到实际问题中来提高自己的技能。 基于类似的思路和方法， 引导学习假设学习器在分析数据前已经掌握了最基础的知识， 从而达到更高级的学习水平， 解决更复杂的问题。

引导学习的关键是将先验知识进行数学处理、 模型化处理， 然后输入到“知识”函数单元中，当学习器对样本空间进行学习迭代时， 指导学习器对参数集进行优化。 引导学习模型由基准知识单元K、 样本单元S、 知识函数单元F、 参数优化单元O、 学习模型单元M 共5 个模块组成[24]。

引导学习将知识分析与数据挖掘相结合， 充分利用了确定性知识泛化能力的鲁棒性。

2 电力系统运行领域中的机器学习应用场景

上述文献分析表明， 单纯依靠一种机器学习理论效果有限， 通常需要综合运用多种技术才能解决电力系统运行中的相关问题。

2.1 电力系统稳定分析领域中的应用实践

稳定分析是电力系统安全运行的重要内容，其中低频振荡和次同步振荡又是电力系统稳定分析中的典型问题。 下文将对用于处理低频振荡问题的机器学习方法进行分析。

目前进行电力系统低频振荡的分析方法主要有基于系统结构和运行参数的模型分析方法和基于仿真或实测信号的分析方法。 传统的信号分析方法包括Prony 算法、 HHT 变换、 S 变换等[26-27]。这些方法均根据拟提取的特征来选择相应的特征， 而方法的设计则需要以实际经验和专业知识为基础， 并要耗费大量的时间去调试， 工作效率低下。 随着人工智能技术的发展， 许多智能技术可用于解决该问题， 文献[28]使用GSO（群搜索优化）算法进行低频振荡的模态辨识， 该方法在特征提取方面实现了部分智能化， 但仍无法完全解决特征的提取问题。 而深度学习则具有自动提取信号特征的优势， 文献[29]利用DBN（深度置信网络）来识别低频振荡的模态数， 然后利用Prony 算法分析模态信息。 文献[30]利用DNN（深度神经网络）来对网侧变流器输出变量的稳定性进行判断，测试结果表明预测的正确性可达到99%。 文献[31]为了对配电网频率信号进行检测， 利用强化学习方法来分析频率信号， 并使用动态决策智能算法来设置告警阈值。

由于DBN 无法体现振荡信号前后时刻的时序关联， 建议使用RNN（循环神经网络）或具有记忆功能的LSTM 模型进行分析。 在振荡频率信号中可能会出现很多畸变， 可以使用胶囊神经网络技术来实现对变形特征的分析。 另外， 如果存在分析数据不足问题， 可以使用生成对抗神经网络技术来处理。

2.2 电力系统协调调度领域中的应用实践

在含有可再生能源的协调调度中， 为了对可再生能源的发电量进行预测， 需要考虑太阳辐照度和温度等数据具有时间顺序和离散特性。 文献[32]基于相似时刻构造输入向量， 分别对各时刻的光伏出力进行预测； 使用了小波变换与DBN 相结合的方法， 小波变换用于信号的分解， DBN 将分解后的信号进行特征提取。

针对电力系统运行过程中负荷及故障的不确定性， 文献[33]在经济调度中建立了风险调度模型。 由于风险调度是一个基于潮流的复杂非线性规划问题， 求解非线性规划问题的经典优化算法存在全局收敛性差、 要求精确数学模型等缺点。而智能求解算法具有对特定数学模型依赖性低、应用简单等优势， 但是对相似任务的优化是孤立进行的， 不能有效保留以往任务的经验和知识，很难进行大规模复杂风险调度的快速优化。 针对上述问题， 该文献采用了迁移学习算法将在源领域中所学习到的知识或策略应用到相似但不相同的目标领域， 复用已有经验以加速新任务的学习速度。

文献[34]针对电力系统能源优化问题， 改变了传统的线性动态优化算法， 采用深度强化学习算法（结合深度学习与强化学习的优势）进行优化处理， 与传统的启发式策略相比， 该方法能够使得发电量与负载的动态变化更加平衡。

2.3 电力系统负荷和发电预测领域中的应用实践

依据预测周期和目的的不同， 负荷预测大致分为长期负荷预测、 中期负荷预测、 短期负荷预测以及超短期负荷预测。 短期负荷预测通常用于预测从第二天到下一周的电力负荷大小， 预测目标通常是某个区域的承载能力或每日和每周的电力消耗数据。 短期负荷预测的方法众多， 常用的智能算法有神经网络和支持向量机。 但在负荷数据分析中发现， 由于人们活动的周期性， 同一周的相应情况往往相似， 不同周的相应情况往往不同， 如果不加以区分地将全部的实例用来训练模型， 不同类别的实例就会因其差异性影响模型最终的训练效果。 为了解决该问题， 文献[35]充分利用迁移学习在处理“两个不同但又彼此联系”类型数据上的优势， 将7 周数据中的1 周数据作为目标任务， 其余6 周数据作为源任务进行迁移学习。

另外， 考虑到负荷的变化曲线受自身历史运行状态、 气象因素、 电力用户特征等多重因素的影响， 文献[36]使用MaXNet 深度学习框架来综合分析各因素对电力负荷的影响。 为了处理负荷数据的时间序列问题， 文献[37]采用基于LSTM模型并进行了基于时间序列的交叉验证。 文献[38]对IPSO（粒子群优化算法）、 带嵌入层的LSTM、 带嵌入层和卷积层的LSTM 3 种不同方法的预测结果进行了对比， 结果表明带嵌入层和卷积层的LSTM 预测效果最佳。

可见，现代教育技术课程与教学改革受到政策和教育技术发展的双重影响。而现代教育技术课程与教学改革又需依赖现代教育技术教材，因此，本研究旨在分析现代教育技术教材建设现状，预测新教材的发展趋势，并对未来新教材的建设提出几点建议。

新能源技术的大规模发展和发电资源的不确定性给电力系统运行带来了一定的挑战。 文献[39-41]利用机器学习策略进行发电功率预测。 文献[39]使用SDAE（堆叠式降噪自动编码器）来分析风力资源在时序上的非线性、 动态性问题， 对比结果显示， 相比于传统反馈神经网络结构和支持向量机策略， SDAE 的风电功率预测误差（以误差均值表示）分别降低了3.49%和1.59%。 文献[40]使用RNN 结构中LSTM 模型来对气象预报数据进行分析， 为了降低LSTM 模型输入变量的维数，文献采用了主成分分析法。 为了提取风电数据中的特征， 文献[41]使用DBN 对历史数据进行分析，测试结果表明，DBN 可以有效降低预测数据误差。

2.4 电力系统运行监控中的应用实践

机器学习在电力系统运行监控中的应用大致分为主站监控、 变电监控和输电监控3 个方面。

深度学习在主站监控领域研究较少， 只有零星利用传统机器学习算法进行主站告警信息处理的报道。 文献[42]基于模型驱动的思想， 设计了具有智能推理功能的变电站告警系统。 文献[43]在对电力调度系统的告警信号文本信息进行处理时，采用隐马尔科夫模型中的Viterbi 算法进行分词。

在变电站监控方面， 文献[44]在智能变电站智能视觉系统的开发中， 将传统的机器学习算法和视觉跟踪技术相结合来跟踪和识别变电站内的移动物体（如人员）。 对于变电站中人行为的监控，文献[45]建立了工作人员闯入、 误入限制区域甚至危险区域的变电站监控图像异常状况模型， 该模型采用CNN 结构； 在模型构建时采用了基于矩阵2-范数的池化方法， 同时利用一种非线性修正函数作为神经元激励函数， 相比于传统激励函数提高了识别的准确率。 针对变电站工作人员训练数据缺乏问题， 文献[46]采用迁移学习技术进行处理， 由于人员相对于整个变电站监控画面来说显示较小， 采取了全卷积大尺度检测技术检测人的行为， 而对周围的多种设备进行忽略。 相反， 文献[47]和文献[48]对变电站中的设备进行监控， 文献[47]针对变电站的红外及可见光图像提出配准方法， 使用CNN 解决了其灰度差异较大的问题。 同时， 针对VGG16 模型对于红外和可见光相似度不能很好学习的问题， 采用Triplet loss训练方法进行处理。 文献[48]则将深度学习算法与设备视频图像技术相结合， 对变电站中的指针仪表设备图像进行研究， 构建了基于深度CNN的实时仪表指针识别系统。

在输电系统监控领域， 文献[49]设计了基于深度学习的目标检测系统， 通过对Faster R-CNN模型进行改进， 增加了目标分类网络的层数， 提高了对目标的识别能力； 同时， 基于迁移学习的思想， 利用模型微调法对检测模型进行训练。 对于输电线路附近的危险源， 文献[50]采用稀疏自编码从图像和视频信号中进行特征学习， 利用softmax 进行危险源的分类。 而针对输变电设备故障的诊断， 文献[51]将改进RNN 与LSTM 模型相结合来对网络模型进行训练， 从而对面向文本的非结构化数据进行处理。

3 应用前景

随着机器学习在电力系统运行领域中的广泛应用， 电力系统运行性能将在众多领域发生更新， 本文从以下几个方面重点阐述机器学习技术的应用前景。

电力系统运行时， 常常需要各种人员的电话指令， 如果能利用深度学习在音频/视频等处理方面的优势将音频信息解读为机器能够正确理解的语言， 便可以更好地实现电网运行监控的无人值守。 此外， 在电站操作票中存在各种文本信息，可以利用深度学习的自然语言处理功能对操作票信息进行语义语法分析， 进而与SCD（变电站配置描述）文件信息进行搜索匹配， 实现操作命令的自动执行。 同时利用深度学习技术可以有效处理监控主站信息中的告警， 例如利用深度学习中的文本分类功能对纷繁的主站告警信息进行分类。

（2）机器学习技术将推动电力系统调度水平的显著发展。

目前， 电力系统的潮流调节、 AVC（自动电压控制）、 AGC（自动发电控制）更多依靠专家的个人经验， 假如能够利用深度学习技术将专家的模糊调节经验转化为机器语言清晰的调节规则， 将实现电力系统调度的自动智能调节， 大大提高工作效率。

（3）机器学习技术将能更好地处理电力系统运行中的随机性和不确定性事件。

电力系统运行中存在着众多不确定影响因素， 如负荷的随机扰动和设备元器件的偶然故障等。 近年来， 随着新能源并网发电的普及， 新能源的随机性和间歇性进一步加剧了电力系统运行的不确定性。 电力系统运行中各类不确定问题的出现使得与运行相关的潮流计算、 调度、 规划及辅助决策方法等需要逐步由确定性向不确定性转变。 针对上述问题， 可以在机器学习中增加不确定因素的随机变化， 比如在神经元之间分配随机过程传递函数， 或是给神经元随机权重。 当然，如何利用机器学习来实现这一想法需要考虑更多细节。

（4）机器学习技术将促进电力市场的进一步发展。

在电力市场中， 中长期合约电量与现货市场的比例分配之间相互影响、 相互关联。 在合约电量确定后， 如何通过现货市场的调节作用来保障电网物理系统和电力市场系统的协调平稳运行，需要利用深度学习技术来应对外部环境的变化。

另外一个比较前沿的研究领域是将电力系统的运行与人脑运转进行类比， 包括两者的结构、感知、 分析和自主决策等方面。 比如将电网中的输电线路比作人脑中的神经网络， 电网中的量测设备与人体的感官进行类比等， 文献[52]就对“电力脑”进行了相关描述。 总之， 随着机器学习技术在电力系统运行领域的广泛应用， 将使得电力系统运行更加经济、 安全和可靠。

4 结语

与专家系统、 模糊控制等传统人工智能不同， 机器学习算法的产生与发展侧重于实际应用效果， 这也导致了任何一种机器学习策略都不是放之四海而皆准的， 电力系统运行情况的复杂程度更凸显了机器学习算法选择的重要性。 因此在学习策略的选择上， 首先要对所需解决问题的特点进行分析， 根据实际问题来进行选择。 另外还需要强调的是， 每种方法都有其自身的优点和不足， 可以将2 种或几种方法进行有机结合， 将更有利于问题的解决。