模式识别基础理论及其计算机视觉应用（下，383页6-9章）.pptVIP

第六章时序模型;6.1时序分析概述;;6.1时序分析概述;;;;;;;;;;6.1时序分析概述;;6.1时序分析概述;6.2隐马尔可夫模型;6.2隐马尔可夫模型;6.2隐马尔可夫模型;;;6.2隐马尔可夫模型;;;6.2隐马尔可夫模型;6.2隐马尔可夫模型;;;;;;;;;;;?;6.3隐马尔可夫模型的优化;6.3隐马尔可夫模型的优化;?;6.3隐马尔可夫模型的优化;?;?;1)改进HMM的前向算法;(1)初始化;(2)迭代计算;2)改进HMM的后向算法;(1)初始化;根据前向变量和后向变量的定义可得;特别地，;6.4循环神经网络及其优化;6.4循环神经网络及其优化;RNN的应用领域有很多，常见的应用领域包括：

(1)自然语言处理(NLP)；

(2)机器翻译；

(3)语音识别；

(4)图像描述生成；

(5)文本相似度计算；

(6)音乐推荐。;6.4循环神经网络及其优化;RNN结构图;隐藏层的层级展开图;?;?;以此类推，可以得到最终的输出值为：;?;?;?;?;从而可得公式：;?;6.4循环神经网络及其优化;双向RNN结构图;2)递归神经网络;递归神经网络结构图;6.5长短期记忆网络及其改进;6.5长短期记忆网络及其改进;循环神经网络的梯度消失问题;?;6.5长短期记忆网络及其改进;LSTM单元