深度学习原理与TensorFlow实践 课件 第9章 循环神经网络.pptx

;;课前回顾;;了解人的记忆原理;了解人的记忆原理;了解人的记忆原理;;RNN网络的应用领域;RNN网络的应用领域;RNN网络的应用领域;RNN网络的应用领域;RNN网络的应用领域;RNN网络的应用领域;;正向传播过程;正向传播过程;正向传播过程;正向传播过程;;随时间反向传播;随时间反向传播-BP算法回顾;随时间反向传播-BP算法回顾;随时间反向传播-BPTT算法;随时间反向传播;本节小结;;;;课前回顾;;;简单循环神经网络实现;简单循环神经网络实现;简单循环神经网络实现;简单循环神经网络实现;简单循环神经网络实现;简单循环神经网络实现;简单循环神经网络实现;简单循环神经网络实现;;使用RNN网络拟合回声信号序列;使用RNN网络拟合回声信号序列;使用RNN网络拟合回声信号序列;使用RNN网络拟合回声信号序列;使用RNN网络拟合回声信号序列;使用RNN网络拟合回声信号序列;使用RNN网络拟合回声信号序列;使用RNN网络拟合回声信号序列;本章小结;;;;课前回顾;;简单循环神经网络存在的问题;;LSTM网络结构;LSTM网络结构;LSTM网络结构;门结构;门结构;忘记门;输入门;输入门;输出门;;LSTM改进版本;窥视孔连接（Peephole);窥视孔连接（Peephole);窥视孔连接（Peephole);LSTMP介绍;LSTMP介绍;LSTMP介绍;;GRU网络介绍;Bi-R