隐马尔可夫模型zuoheng.ppt

隐马尔可夫模型Hidden Markov Model 目 录 HMM的由来 马尔可夫性和马尔可夫链 HMM实例 HMM的三个基本算法 主要参考文献 马尔可夫性 如果一个过程的“将来”仅依赖“现在”而不依赖“过去”，则此过程具有马尔可夫性,或称此过程为马尔可夫过程 X(t+1) = f( X(t) ) 马尔可夫链 时间和状态都离散的马尔可夫过程称为马尔可夫链 记作{Xn = X(n), n = 0,1,2,…} 在时间集T1 = {0,1,2,…}上对离散状态的过程相继观察的结果 链的状态空间记做I = {a1, a2,…}, ai∈R. 条件概率Pij ( m ,m+n)=P{Xm+n = aj|Xm = ai} 为马氏链在时刻m处于状态ai条件下，在时刻m+n转移到状态aj的转移概率。 转移概率矩阵 转移概率矩阵(续) 由于链在时刻m从任何一个状态ai出发，到另一时刻m+n，必然转移到a1，a2…，诸状态中的某一个，所以有 当Pij(m,m+n)与m无关时，称马尔可夫链为齐次马尔可夫链，通常说的马尔可夫链都是指齐次马尔可夫链。 HMM实例 HMM实例——描述 设有N个缸，每个缸中装有很多彩球，球的颜色由一组概率分布描述。实验进行方式如下 根据初始概率分布，随机选择N个缸中的一个开始实验 根据缸中球颜色的概率分布，随机选择一个球，记球的颜色为O1，并把球放回缸中 根据描述缸的转移的概率分布，随机选择下一口缸，重复以上步骤。 最后得到一个描述球的颜色的序列O1,O2,…，称为观察值序列O。 HMM实例——约束 在上述实验中，有几个要点需要注意： 不能被直接观察缸间的转移 从缸中所选取的球的颜色和缸并不是 一一对应的 每次选取哪个缸由一组转移概率决定 What is an HMM? HMM组成 HMM是一个双重随机过程，两个组成部分： 马尔可夫链：描述状态的转移，用转移概率描述。 一般随机过程：描述状态与观察序列间的关系， 用观察值概率描述。 HMM 模型 HMM的基本要素 用模型五元组 ＝（ S, K, π ，A，B）来描述HMM，或简写为 =(π ，A，B) HMM可解决的问题 问题1：给定观察序列O=O1,O2,…OT,以及模型 , 如何计算P(O|λ)？ 计算问题－－前后向算法 问题2：给定观察序列O=O1,O2,…OT以及模型λ,如何选择一个对应的状态序列S = q1,q2,…qT，使得S能够最为合理的解释观察序列O？ 估计问题－－Viterbi算法 问题3：如何调整模型参数 , 使得P(O|λ)最大？ 训练问题－－ Baum Welch算法 问题1：给定观察序列O=O1,O2,…OT,以及模型 , 如何计算P(O|λ)？ 解决问题1－－前向法 动态规划 定义前向变量 给定模型 的情况下，到时间t时状态处于i，并且输出观察序列为 的概率。 初始化： 递归： 终结： 前向法示意图 解决问题1－－后向法 与前向法类似 定义后向变量 给定模型 ，时刻t处在状态i，观察到 的概率。 初始化： 递归： 终结： 解决问题2－－Viterbi算法 目的：给定观察序列O以及模型λ,如何选择一个对应的状态序列S ，使得S能够最为合理的解释观察序列O？ 定义： 含义是模型在时刻t 处于状态i，观察到o1 o2 o3 … ot 的最佳状态转换序列的概率。 我们所要找的，就是T时刻最大的 所代表的那个状态序列。 Viterbi算法(续) 初始化： 记录最佳路径的数组 递归： 终结： 回溯最佳状态转移S序列： 解决问题3－－Baum-Welch算法(模型训练算法) 目的：给定观察值序列O，通过计算确定一个最佳模型l ， 使得P(O| l)最大。 算法步骤： 1. 初始模型（待训练模型） l0, 2. 基于l0 以及观察值序列O，训练新模型 l； 3. 如果 log?P(X|l) - log(P(X|l0) Delta，说明训练已经达到预期效果，算法结束。 4. 否则，令l0 ＝ l ，继续第2步工作 Baum-Welch算法(续) 参数估计： 定义给定模型λ和观察序列O，在时刻t 处在状态i，时刻t+1 处在状态j 的概率ξt(i, j)，即： ξt(i, j) = P(qt= i, qt