短期电力负荷预测算法中LSTM网络改进与优化探究.docx

? ? 短期电力负荷预测算法中LSTM网络改进与优化探究 ? ? 摘 要： 在短期电力负荷预测算法中，对LSTM网络加以改进和优化，基于已有的LSTM神经网络，利用强化学习理念，借助简单化的Inception网络结构，搭建起隐藏状态矩阵，从而达到LSTM网络的优化与改进，对应搭建起短期电力负荷预测模型，经过数据对比得出，经过优化的LSTM网络模型能更高效地获取依赖信息，可以确保短期负荷预测的精准。 Key：短期电力负荷;预测算法;LSTM网络;改进;优化 0 前言 电力负荷预测应开发高质量的负荷预测数据模型，借助此模型能充分地辅助各种网络系统，随着现代信息科技的发展，负荷预测已经从传统的单一预测法转向灰色预测、人工神经网络以及LSTM模糊预测方向发展，此研究则以组合预测法为参照，以强化学习的方式来优化、改进LSTM算法，深入剖析了LSTM改进方式以及成效。 1 LSTM网络内涵与特征 LSTM为建立在RNN基础上的优化模型，凭借引进门与单元的理念来化解远距离传输的问题，此网络有着超强的环境适应能力，可以妥善地适应各种条件、各种环境，其单元结构图如下图1所示。 各个神经单元内部都包括：遗忘门、输入门、输出门几个门控结构，用来控制数据的出入，不同的门控结构发挥不同的功能，遗忘门主要肩负着丢弃、保留前一刻的有效数据于CtCt内，输入门则负责把目前每一刻的有效數据存储于Ct中，输出门决定了神经单元输出中Ct的信息。 不同于传统的神经网络算法，LSTM网络实际运用中体现出超强的自适应学习能力，针对于一些复杂的样本数据，此网络也体现出超强的拟合效果。此网络借助门控结构能高效地控制因为时间增加所造成的梯度消失的问题。同时，因为选择了三个输入值、两个输入值的当前时刻的记忆模块，使得这一模型实际运用中体现出超强的泛化能力。 然而，事实证明，LSTM网络现实的运用中体现出多种问题和不足，最显著的问题为：LSTM网络主要依赖于梯度下降法来实现权重更新，从而使得模型的收敛速度偏慢，进而导致梯度发散的现象，从而导致系统更可能走向局部极小值，同时，没有更为合适的办法来确定模型的隐含层节点的各项参数，例如：节点数目、学习率以及迭代系数等。 2 预测模型的设计与优化 建立在强化学习的LSTM模型结构采取如下图2所示的设计图。 第一层：输入层。主要把历史负荷数据，从x1，x2---xt都全盘输入网络模型，来加以训练。 第二层：此层为LSTM层，参照强化学习，搭建隐藏状态矩阵H，动态学习网络输入负荷数据中的长期依赖。 第三层：Inception网络层，采取层次性的并行的一维卷积分支，对所传输的负荷数据加以剖析、处理，而且还能将所分析、处理的数据结果加以合并，最终形成张量。 第四层：全连接输出层。因为预测结果会传出个数相匹配的神经元结构，所传出的结果：电力负荷预测结果输出矩阵L。 在以强化学习为基础的LSTM网络模型内，主要依托于动态跳跃LSTM在语言处理层面所展现出的序列数据处理的优势，以强化学习来择选最优依赖，对应深入剖析电力负荷的周期性性质、特征，经过优化升级的LSTM模型结构如下图3所示。 上图中所展示的经过优化升级后的LSTM模型，可以看到：在t-1时的隐藏状态出现一定的浮动和调整，细胞候选状态Ct-k和Ct-1内，隐藏状态ht-k和ht-1间，参照预测效果来择取最优依赖。同样，选择经改进的LSTM模型充当Inception节点输入模块的短期电力负荷预测模型。此模型的核心为：策略梯度代理，时间步长t中，代理和环境st交互则势必会从整体上决定LSTM的单元动作。基于目前所选的模型性能可以充当更新代理参数的奖励，其中代理环境、动作与奖励这几个关键点的具体特点为： 第一，环境。主要包括来自于输入xt和前状态ht-1构建起环境，一般用如下公式来表示： 第二，动作。参照环境St来确定对后方LSTM单元影响最佳的状态，构建一个保留最近K状态，也就是形成一个状态集合Sk，具体公式如下： 上式中，softmax（）用户能转换向量，使其变成：概率分布P，MLP（）则属于多层感知器能转换数据，使得St转换为K维度的向量。 第二，奖励。奖励函数择取多种最佳跳过动作，开展预测模型的学习、训练，择取最佳跳过的方式来实现对短期电力负荷预测模型性能的优化与提升的目标，整个算法内的奖励函数采用以下公式设计： 被优化升级的LSTM模型的短期电力负荷预测模型主要依托于被简单设计的Inception网络结构，借助时间步长向量，打造出隐藏性的状态矩阵，打造出一组优化特征。所以，即便目前的状态属于不正确的隐藏状态向量，经1-D初始模块，以及级联滤波器来隐藏状态向量后，也能获得一个锁定将来的短时内的预测数据。 3 预测模型的实验 3.1 实验数据 此实验选择了江门地区10年时间内，以h为时