7、HMM模型和词性标注.pptVIP

HMM模型和词性标注 徐志明 哈工大语言技术中心 目录 Markov模型 HMM 词性标注 Markov模型 描述： 一个随机过程上的随机变量序列，X = X1, X2…Xt 随机变量取值于有限集 S = {s1,s2 …sN}。S称为状态空间。 Markov模型 模型描述 一个随机过程，存在着一个随机变量序列 X = X1, X2…Xt 随机变量的取值于有限集 S = {s1,s2 …sN}, S称为状态空间。 两个假设： 有限视野： P(Xt+1| X1, X2…Xt) = P(Xt+1|Xt) 时间不变性: 这种条件依赖，不随时间的改变而改变。 若随机过程满足上述假设，则是一个Markov 过程（链）。 Markov模型 模型表示： 三元组(S, p , A) S ：状态的集合， S = {s1,s2 …sN}。 p：初始状态的概率。 p ={p1,p2…pN}; pi =P(X1= si) A ：状态转移概率矩阵。 A={aij}; aij = P(Xt+1=sj|Xt=si) 状态图 相当于一个有限状态自动机 转移弧上有概率 Markov模型 状态空间 S={t,i,p,a,h,e} 初始概率 p ={1.0,0,0,0,0} 状态转移概率矩阵 Markov模型 计算状态序列的概率 例子： The Markov Chain – Ex 2