蔡海滨 中山大学信息科学与技术学院.pptVIP

Viterbi算法 Viterbi算法采用动态规划算法。算法复杂度 为O(K2L)。其中K和L分别为状态个数和序列长 度。定义 Wt(i)=maxP[q1q2…,qt=I,O1,O2,…,Ot,|U] 我们所要找的，就是T时刻最大的WT(i)所代表 的状态序列。 * 精品文档整理合集 2020年 Viterbi算法流程 初始化 W1(i)= bi(O1),1=i=N R1(i)=0, 1=i=N 递归 Wt(j)=max1=i=N[Wt-1(i)aij]bj(Oi) Rt(j)=arg max1=i=N[Wt-1(i)aij] 终结 P*=max1=i=N[WT(i)] qT*=arg max1=i=N[WT(i)] 求s序列 qt*=Rt+1(qt+1*),t=T-1,T-2,…1 * 精品文档整理合集 2020年 学习问题 如何调整模型参数U=(A,B, ),对于一个给定序 列O=O1O2…OT，使得P(O|U)最大。它试图 优化模型的参数来最佳的描述一个给定的观察 序列是如何得来的。 * 精品文档整理合集 2020年 精品文档整理合集 精品文档整理合集 PPT模板集编辑说明 本模板文件只是整个模板集的一部分，包含各种风格和用途，后面也会一直陆陆续续的更新，这是模板适合多个场合，按照需要获取，使用灵活方便，排版及各个字体限制已经设置好，可以直接使用也可以自动以使用 * 精品文档整理合集 2020年 蔡海滨 中山大学信息科学与技术学院 隐马尔可夫模型Hidden Markov model * 精品文档整理合集 2020年 目录 HMM简介 马尔可夫（Markov）链 HMM的基本定义 HMM的三个基本问题及其算法 * 精品文档整理合集 2020年 HMM简介 HMM（Hidden Markov Model隐马尔可夫模型）是一种用参数表示的用于描述随机过程统计特性的概率模型，是一个双重随机过程，由两部分组成：马尔可夫链和一般随机过程。其中马尔可夫链用来描述状态的转移，用转移概率描述。一般随机过程用来描述状态与观察序列间的关系，用观察值概率来描述。 对HMM模型，其转换过程是不可观察的，因而称之为“隐”马尔可夫模型 * 精品文档整理合集 2020年 HMM的应用领域 HMM作为语音信号的一种统计模型，今天正在语言处理各个领域中获得广泛的应用。除此之外，HMM还可以应用于： 生物计算 计算机视觉 生物测定学（Biometrics） 手势识别 …其他更多的领域 * 精品文档整理合集 2020年 Markov链 如果一个过程的“将来”仅依赖“现在”而不依 赖“过去”，则此过程具有马尔可夫性,或称此 过程为马尔可夫过程 马尔可夫链是时间和状态参数都离散的马尔 可夫过程 * 精品文档整理合集 2020年 Markov链的数学定义 随机序列Xn ,在任一时刻n，它可以处在状态S1,S2,…,SN,且它在m+k时刻所处的状态为qm+k的概率，只与它在m时刻的状态qm有关，而与m时刻以前它所处状态无关，即有： P(Xm+k=qm+k|Xm=qm,Xm-1=qm-1,…,X1=q1) =P(Xm+k=qm+k|Xm=qm) 则称Xn 为Markov链. * 精品文档整理合集 2020年 K步转移概率： Pij(m,m+k)=P(qm+k=Sj|qm=Si) 当Pij与m无关时，即Pij (m,m+k)=Pij(k)此 时这个Markov链称为齐次markov链。 当k=1时，Pij称为一步转移概率，简称转移 概率 * 精品文档整理合集 2020年 阴天 下雨 晴天 转移概率矩阵 晴天 阴天 下雨 晴天 0.50 0.25 0.25 阴天 0.375 0.25 0.375 下雨 0.25 0.125 0.625 转移概率可以表示成一个转移概率矩阵 * 精品文档整理合集 2020年 转移概率矩阵 其中，aij=Pij(1), * 精品文档整理合集 2020年 初始概率矢量 概率转移矩阵还不足以描述一个markov链， 因此还需要引入一个初始概率矢量。 其中， * 精品文档整理合集 2020年 HMM的基本定义 HMM是在Markov链的基础上发展起来的。由于实际问题比Markov链模型所描述的更为复杂，观察到的时间并不是与状态一一对应的，而是通过一组概率分布相联系，这样的模型称为HMM。它是双重随机过程，其中之一是Markov链，这是基本随机过程，它描述状态的转移。