隐马尔可夫模型算法基础探析【精选文档】.pdfVIP

《栅 陡譬院警籁 )2014年第3期 工 程 科 技 隐马尔可夫模型算法基础探析 叶 飞 1,2 (1．铜陵学院，安徽 铜陵 244000；2．南京大学，江苏 南京 210093) 摘 要：隐马尔可夫模型是一个具有双重随机过程的统计模型，已被广泛应用于语音识别、生物序列分析和管理等领 域。在隐马尔可夫模型中存在三个基本 问题，即学习问题、解码 问题和估值问题，一般分别使用Baum—welch算 法、Vit~bi算法和向前一向后算法进行解决。其中，学习问题的Baum—Welch算法本质上是EM算法在隐马尔可 夫模型中的一个应用，解码问题的Viterbi算法本质上是动态规划算法在隐马尔可夫过程中的一个应用。文章 就EM算法和动态规划算法进行 了一定的梳理和分析，以促进对隐马尔可夫模型算法的理解。 关键词 ：隐马尔可夫模型；EM算法；动态规划算法 中图分类号 ：O211．62 文献标识码 ：A 文章编号：1672—0547(2014)03—0108—05 隐马尔可夫模型是一个具有双重随机过程的统计 为了处理 问题的方便 ，一般令 模型。其中，一个随机过程 为马尔可夫过程 ，它描述 了 L(2)=logP( )， 状态之间的转移规律，是不可以观测的，称为状态过 则三()称为关于 的对数似然 函数 。 程 ：另一个随机过程描述 了状态与观测值之间的统计 当概率模型服从正态分布时，可 以直接通过对对 关系 ，是可 以观测的，称为观测过程[1l。 隐马尔可夫模 数似然函数求导，求出最大似然估计 。但是在很多情 型具有可靠的概率统计理 论基础和强有力 的数学结 况下，无法直接求出最大似然估计 ，例如在隐马尔可夫 构 ，起初被应用于语音识别和生物序列分析等领域 ，近 模型中，这时必须借助于其他的方法 1。EM(Expeeta． 年来人们开始分析和探寻其在管理领域的应用[21。在隐 tionMaximization)算法就是其 中一种重要 的方法 ，它 马尔可夫模 型中存在三个基本 问题 。即学习问题、解 通过迭代逐步逼近 的最大似然估计 。下面主要 码 问题和估值问题 ，一般分别使用Baum-Welch算法、 参考文献6【7】对 EM算法作一个简单的分析和回顾。 Viterbi算法和向前一向后算法进行解决。其中，学 习问 在医疗诊断等实际问题中，通过观测获得的数 题的Baum—Welch算法本质上是 EM 算法在隐马尔可 据 常常是不完整的，存在遗 失的数据 ，或者说存在 夫模型中的一个应用 解码问题的Viterbi算法本质上 隐藏的数据 。EM算法为这种情形下的参数估计提供 是动态规划算法在隐马尔可夫过程 中的一个应用。本 了一种很有效的方法。当然，有时为了利用 EM算法 文就参数估计的EM算法和动态规划算法进行了一定 的梳理和分析 。 进行参数估计 ，即使观测数据是完整的，也可 以假定