隐马尔科夫模型(原理图解).pptVIP

山东大学高性能计算与大数据处理学科组 High Performance Computing and Big Data Processing Group 张庆科 隐马尔可夫模型原理图解 Hidden Markov Models 提 纲 Hidden Markov Model 隐马尔科夫模型的三个问题 总结 Hidden Markov Model 1马尔可夫模型 马尔可夫模型是数学中具有马尔可夫性质的离散时间随机过程，是用于描述随机过程统计特征的概率模型。 …… t=1 t=2 t=3 t=T-1 t=T … … … … … S1 S2 S3 SN S1 S2 S3 SN S1 S2 S3 SN S1 S2 S3 SN S1 S2 S3 SN … … … … 系统状态数目(N个) 状态序列=观测序列 2. 一阶马尔可夫模型概念 t=1 t=2 t=3 t=4 t=5 S1 S2 S3 S1 S2 S3 系统状态数目(N=3) 一阶马尔可夫模型（Markov Models） S1 S2 S3 S1 S2 S3 S1 S2 S3 S1 S2 S3 a11 a12 a13 a22 a21 a23 a31 a33 a32 a11 a12 a22 a21 a23 a33 a32 a11 a12 a22 a21 a23 a33 a32 a11 a12 a22 a21 a23 a33 a32 下时期状态只取决于当前时期状态和转移概率 从某时刻状态到下时刻的状态按一定概率转移 t-1时刻 t时刻 qt-1 qt … q1 q2 q3 t-1时刻 t 时刻 晴 阴 雨 T=1 T=2 T=3 3. 隐马尔可夫模型 t=1 t=2 t=3 t=T-1 t=T … … … … … S1 S2 S3 SN S1 S2 S3 SN S1 S2 S3 SN S1 S2 S3 SN S1 S2 S3 SN … … … … … S1 S2 S3 SN 隐藏状态 t=1 t=2 t=3 t=T-1 t=T … 观测状态 … … … … … 隐藏状态序列 观察状态序列 … … … … HMM 状态序列≠观测序列 一般随机过程 马儿科夫过程 t=1 t=2 t=3 t=4 t=5 S1 S2 S3 一阶隐马尔可夫模型（Hidden Markov Models）图解 S1 S2 S3 S1 S2 S3 S1 S2 S3 S1 S2 S3 a11 a12 a13 a22 a21 a23 a31 a33 a32 a11 a12 a22 a21 a23 a33 a32 a11 a12 a22 a21 a23 a33 a32 a11 a12 a22 a21 a23 a33 a32 下时期状态只取决于当前时期状态和转移概率 从某时刻状态到下时刻的状态按一定概率转移 t-1时刻 t时刻 qt-1 qt 4. 隐马尔可夫模型(Hidden Markov Models,HMM) I-隐藏状态 转移概率 生成概率 b2(Q3) b3(Q4) b1(Q1) b1(Q1) b2(Q2) II-观察序列 … q1 q2 q3 t-1时刻 t 时刻 T=1 T=2 T=3 t=1 t=2 t=3 t=T-1 t=T S1 S2 S3 S1 S2 SN S1 S2 SN S1 S2 SN S1 S2 SN OT-1 5. 隐马尔可夫模型(Hidden Markov Models,HMM) HMM模型五元组表示：λ ＝（ N, M, π , A, B）用来描述HMM，或简写为 λ =(π , A, B) 一阶隐马尔可夫模型（Hidden Markov Models）数学定义 … … … … … … OT … … … … … … … … N M 提 纲 Hidden Markov Model 隐马尔科夫模型的三个问题 总结 t=1 t=2 t=3 t=T-1 t=T S1 S2 S3 S1 S2 SN S1 S2 SN z S1 S2 SN S1 S2 SN a11 a12 a13 a22 a21 a23 aN1 aNN aN2 a11 a12 a22 a21 a23 a33 a32 a11 a12 a22 a21 a23 a33 a32 … … … … … … 问题1：给定观察序列O=O1,O2, …,OT,以及模型λ=(π,A,B),计算P(O|λ)？ π a01 a02 a0N … Π：初始概率向量 1. 隐马尔可夫模型-全概率计算 S2 … 问题本质：计算产生观测序列O的所有可能的状态序列对应的概率之和 共 N T 个可能路径（指数级计算） N=5, T=100, = 计算量10^72 t=1 t=2 t=3 B E t=4 a01 a02 a03 a04 a05 aT1 aT