神经网络模型rnn lstm gru的原理与区别.pdfVIP

RNN LSTM GRU 的原理与区别 RNN 循环神经网络，是非线性动态系统，将序列映射到序列，主要参数有五个： [Whv,Whh,Woh,bh,bo,h0][Whv,Whh,Woh,bh,bo,h0]，典型的结构图如下： • 和普通神经网络一样，RNN 有输入层输出层和隐含层，不一样的是RNN 在不同的时间t 会有不同的 状态，其中t-1 时刻隐含层的输出会作用到t 时刻的隐含层. • 参数意义是: WhvWhv :输入层到隐含层的权重参数，WhhWhh :隐含层到隐含层的权重参数，Woh Woh：隐含层到输出层的权重参数，bh bh:隐含层的