AI_05_7 Hidden Markov Model 人工智能课程 浙江大学研究生.ppt

隐马尔科夫模型Hidden Markov model 徐从富 浙江大学人工智能研究所 2003年10月第一稿 2005年9月修改补充 目 录 HMM的由来 马尔可夫性和马尔可夫链 一个实例——球缸模型 HMM的三个基本算法 主要参考文献 1.? Markov (马尔可夫性) 过程或系统在时刻T0所处状态为已知的条件下，过程在时刻TT0所处状态的条件分布与过程在时刻t0之前所处的状态无关。 通俗的说，就是在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。 2.用分布函数来描述马尔科夫性 设随机过程{X(t), t∈T}的状态空间为I. 若对时间t的任意n个数值t1 t1 … tn, n≥3, ti ∈ T, 在条件X(ti) = xi, xi ∈ I, i = 1,2,…, n –1 下，X(tn)的条件分布函数恰等于在条件X(tn-1) = xn-1 下X(tn)的条件分布函数，即 P{X(ti) ≤ xi | X(t1) = x1 , X(t2) = x2 , …, X(tn-1) = xn-1} = P{ X(ti) ≤ xi | X(tn-1) = xn-1}, xn∈R. 或写成 = 则称过程{X(t), t∈T }具有马尔科夫性，或称此过程为马尔科夫过程。 3.马尔科夫链 (I) 时间和状态都是离散的马尔科夫过程称为马尔科夫链，记作{Xn = X(n), n = 0,1,2,…},它可以看作在时间集T1 = {0,1,2,…}上对离散状态的过程相继观察的结果，链的状态空间记做I = {a1, a2,…}, ai∈R. 3.马尔科夫链(II) 在链的情况下，马尔科夫性通常用条件分布律来表示，即对任意正整数n,r和0≤t1 t2 …tr m, ti 、m、n+m ∈T1 ，有 P{Xm+n = aj | Xt1 = ai1 , Xt2 = ai2 , …, Xtr = air, Xtr = air, Xm = ai }= P{ Xm+n = ai | Xm = ai }, 其中a. ∈I。我们称条件概率P{Xm+n = aj|Xm = ai}(记作Pij(m ,m+n)) 为马氏链在时刻m处于状态ai条件下，在时刻m+n转移到状态aj的转移概率。 4.转移概率矩阵(I) 4.转移概率矩阵(II) 由于链在时刻m从任何一个状态ai出发，到另一时刻m+n，必然转移到a1，a2…，诸状态中的某一个，所以有 由转移概率组成的矩阵Pij(m,m+n) 称为马氏链的转移概率矩阵，Pij(m,m+n)为n步转移概率，由上式知此矩阵的每一行元素之和等于1。当Pij(m,m+n)与m无关时，称马尔科夫链为齐次马尔科夫链，如无特别声明，通常说的马尔科夫链都是指齐次马尔科夫链。 5.一个实验——球缸模型(1) 设有N个缸，每个缸中装有很多彩球，球的颜色由一组概率分布描述。实验进行方式如下 根据某个初始概率分布，随机选择N个缸中的一个，例如第I个缸。 根据这个缸中彩球颜色的概率分布，随机选择一个球，记下球的颜色，记为O1，再把球放回缸中。 根据描述缸的转移的概率分布，随机选择下一口缸，重复步骤1。 最后我们可以得到一个描述球的颜色的序列O1,O2,…，称为观察值序列。 5.一个实验——球缸模型(2) 6.一个实验——球缸模型(3) 在上述实验中，有几个要点需要注意： 缸之间的转移不能被直接观察到 从缸中所选取的球的颜色和缸并不是 一一对应的 每次选取哪个缸由一组转移概率决定 7. HMM概念 HMM概念的提出——实际问题比马尔科夫链所描述的更为复杂，观察到的事件与状态并不是一一对应，而是通过一组概率分布相联系。 HMM是一个双重随机过程，两个组成部分： 马尔可夫链：描述状态的转移，用转移概率描述。 一般随机过程：描述状态与观察序列间的关系， 用观察值概率描述。 8.1 HMM的基本要素 N是可能的状态空间。 M是给定的一个观测值空间。 A称作时间无关状态转移概率分布。 B 是在给定状态下观察值概率分布条件。 π是在初始时刻状态空间的概率分布。 模型 ＝（ N, M, π ，A，B）用来描述HMM N，M ，π ，B，A，称为HMM的五元组 可简写为： ＝（π ，A，B） 8.2 各参数的实例 9. HMM中的几个基本问题 问题1：给定观察序列O=O1,O2,…OT,以及模型 , 如何计算P(O|λ)？ 问题2：给定观察序列O=O1,O2,…OT以及模型λ,如何选择一个对应的状态序列 Q = q1,q2