4第四章节_隐马尔可夫模型.ppt

一个关于天气的3状态马尔可夫模型 已知一天(t=1)的天气是晴（S3），问：其后7天的天气为“晴，晴，雨，雨，晴，多云，晴”的概率是多少？ 观察序列O={S3，S3，S3，S1，S1，S3，S2，S3} 对应时间t=1,2,3,4,5,6,7,8 第四章 隐马尔可夫模型(HMM) 4.1 马尔可夫模型的定义 4.2 隐马尔可夫模型的定义 4.3 隐马尔可夫模型的参数 1870年，俄国有机化学家Vladimir V. Markovnikov第一次提出马尔可夫模型 HMM的由来 马尔可夫性 如果一个过程的“将来”仅依赖“现在”而不依赖“过去”，则此过程具有马尔可夫性,或称此过程为马尔可夫过程 X(t+1) = f( X(t) ) X(n+1) = f( X(n) ) 马尔科夫链 时间和状态都离散的马尔科夫过程称为马尔科夫链 记作{Sn = S(n), n = 0,1,2,…} 在时间集T1 = {0,1,2,…}上对离散状态的过程相继观察的结果 链的状态空间记做I = {S1, S2,…}, Si∈R. 条件概率P{Sj|Si} 为马氏链在时刻m处于状态Si条件下，在时刻m+1转移到状态Sj的转移概率。 4.1马尔可夫模型(MM)的定义 MM是一个输出符号序列的统计模型，具有N个状态S1,S2,…SN,它按一定的周期从一个状态转移到另外一个状态，每次转移时，输出一个符号。 S1 S2 S3 起始状态 终止状态 a/b 输出符号 转移到哪一个状态，转移时输出什么符号，分别由状态转移概率和转移时的输出概率来决定。即每一条弧上有一个状态转移概率以及输出概率。aij表示从状态Si转移到状态Sj的概率。 S1 S2 S3 4.1马尔可夫模型(MM)的定义 S1 S2 S3 从一个状态转移出去 的概率之和为1。 每次转移时输出符号a和b 的概率之和为1。 雨 S1 多云 S2 晴 S3 0.4 0.3 0.3 0.6 0.8 0.2 0.2 0.1 0.1 一般情况下，只能观察到输出符号序列(ab)，而不能观测到状态之间如何转移（状态转移概率）和状态的分布（状态的概率），所以称为隐藏的马尔可夫模型。 语音信号是一个可观察的序列：它是由大脑中的思维（不可观测）及语言需要和语法知识（不可观测）所发出的参数流。 4.2 隐马尔可夫模型的定义 球和缸 S1 SN S2 P(red)=b1(1) P(yellow)=b1 (2) P(bule)=b1(3) P(green)=b1(4) P(black)=b1(M) P(red)=b2(1) P(yellow)=b2 (2) P(bule)=b2(3) P(green)=b2(4) P(black)=b2(M) P(red)=bN(1) P(yellow)=bN (2) P(bule)=bN(3) P(green)=bN(4) P(black)=bN(M) 观察序列O={绿，绿，蓝，红，红，黄，….. 蓝} 设有N个缸，每个缸中装有很多彩色的球，不同颜色的球(M)的多少由一组概率分布来描述， 根据某个初始概率分布，随机选择一个缸，例如第i个缸，再根据这个缸中彩色球颜色的概率分布，随机选择一个球，记O1,再把球放回缸中。 根据缸的转移概率，选择下一个缸，例如第j个缸。再根据这个缸中彩色球颜色的概率分布，随机选择一个球，记O2,再把球放回缸中。 最后得到描述球颜色的序列O1 O2 ，成为观察值序列，但每次选取的缸和缸之间的转移并不能直接观察，被隐藏。 从S1到S3,并且输出aab，可能的路径有三种： S1 S1 S2 S3 S1 S2 S2 S3 S1 S1 S1 S3 0.3×0.8×0.5×1×0.6×0.5=0.036 0.5×1×0.4×0.3×0.6×0.5=0.018 0.3×0.8×0.3×0.8×0.2×0=0 S1 S2 S3 设观察到的输出符号序列是aab。试求aab的输出概率？ 由于是隐HMM模型，不知输出aab时，到底是经过了哪一条不同状态组成的路径，因此，求aab的输出概率时，将每一种可能路径的的输出概率相加得到的总的概率值作为aab的输出概率值: 0.036+0.018+0=0.054 * *