第4章Elman人工神经网络教学课件.ppt

4.3?? Elman神经网络模型与学习算法 概述 Elman神经网络由Jeffrey L. Elman 于1990年提出 是一种反馈神经网络 具有很强的计算能力 4.3.1 Elman神经网络结构 Elman网络由4层组成 输入层 信号传输作用 隐含层 承接层 也称上下文单元或状态层,承接层从隐含层接收反馈信号，用来记忆隐含层神经元前一时刻的的输出值，承接层神经元的输出经延迟与存储，再输入到隐含层。这样就使其对历史数据具有敏感性，增加了网络自身处理动态信息的能力。 输出层 仅起线性加权作用。 4.3.2 Elman神经网络学习算法 Elman神经网络各层输入输出公式 如果输入向量 为 维向量，输出向量 为 维，隐含层输出向量 为 维，承接层输出向量 为 维， 分别为隐含层到输出层、输入层到隐含层、承接层到隐含层的连接权值。 为输出神经元的激活函数,是隐含层输出的线性组合。 为隐含层神经元的激活函数， 为承接层的激活函数， 表示某层的净输入，用A表示输入层，用B表示承接层， 表示迭代次序则各层之间的表达式如下图所示。 4.3.2 Elman神经网络学习算法 4.3.2 Elman神经网络学习算法 Elman神经网络学习算法采用BP算法 判断算法是否结束的误差函数为： 其中 为期望输出 Elman神经网络学习算法流程图 Elman神经网络学习算法流程图 4.3. 3 Elman神经网络学习算法的MATLAB实现 Elman神经网络的重要函数和基本功能 4.3.3 Elman神经网络学习算法的MATLAB实现 例: 下表为某单位办公室七天上午9点到12点的空调负荷数据，数据已经做了归一化处理，预测方法采用前6天的数据作为网络的训练样本，每3天的负荷作为输入向量，第4天的负荷作为目标向量，第七天的数据作为网络的测试数据。 4.3.3 Elman神经网络学习算法的MATLAB实现 空调负荷数据表 4.3.3 Elman神经网络学习算法的MATLAB实现 程序 4.3.3 Elman神经网络学习算法的MATLAB实现 误差曲线 小结 概述 Elman神经网络结构 Elman神经网络学习算法 Elman神经网络学习算法MATLAB实现 Elman神经网络与前向神经网络之间的区别 * Hello ,I’m Jeffrey L. Elman Output y r 1 2 Input u n 1 n 1 m 1 输出层用紫色表示 隐含层用黄色表示 承接层用白色表示 计算输出层输出 初始化各层权值 输入样本值 计算输入层输出 计算误差函数 更新权值 计算承接层输出 计算隐含层输出 动量梯度下降权值和阈值学习函数 learngdm() 自适应学习速率动量梯度下降反向传播训练函数 traingdx() 根据已设定的权值和阈值对网络进行顺序训练 trains() 生成一个Elman神经网络 newelm() 功 能 函 数 名 0.8330 0.7201 0.4891 0.4615 第7天 0.8312 0.7188 0.4845 0.4612 第6天 0.8298 0.7101 0.4811 0.4601 第5天 0.8211 0.7019 0.4790 0.4557 第4天 0.8201 0.7006 0.4725 0.4517 第3天 0.8002 0.6981 0.4677 0.4379 第2天 0.8133 0.6953 0.4707 0.4413 第1天 12时负荷 11时负荷 10时负荷 9时负荷 时间