机器学习 课件 8.3隐马尔可夫模型.pdf

隐马尔可夫模型

隐马尔可夫模型

隐马尔可夫模型(hiddenMarkovmodel，HMM)

•描述由隐马尔可夫链随机生成观测序列的过程，属于生成模型。

•它是结构简单的动态贝叶斯网，是一种有向图模型，在语音识别，自然语

言处理以及生物信息等领域具有广泛的应用价值。

隐马尔可夫模型

马尔可夫过程

•马尔可夫过程(Markovprocess)，因俄罗斯数学家AndreyAndreyevich

Markov而得名，代表数学中具有马尔可夫性质的离散随机过程。

•每个状态的转移只依赖于之前的n个状态，这个过程被称为n阶模

型，其中n是影响转移状态的数目。

•最简单的马尔科夫过程就是一阶过程，每一个状态的转移只依赖于

其之前的那一个状态。

隐马尔可夫模型

马尔可夫链

隐马尔可夫模型

隐马尔可夫模型五元素

隐马尔可夫模型

隐马尔可夫模型

隐马尔可夫模型

隐马尔可夫模型

隐马尔可夫模型的三个基本问题

隐马尔可夫模型

估值问题

隐马尔可夫模型

隐马尔可夫模型

估值问题

这种方法是不现实的，因为如果假定所有的概率都是非零的，则有N个可能的q

隐马尔可夫模型

估值问题

隐马尔可夫模型

正向变量（forwardvariable）

≡⋯,=

1

•前向算法的优点在于可通过累积结果而递推地计算上式

隐马尔可夫模型

前向算法

前向算法

前向算法

隐马尔可夫模型

反向变量(backwardvariable)

隐马尔可夫模型

反向算法

反向算法

（2）递归

⋯,==,

=⋯=,=11

1

=⋯,==,==,

111

,==,

=11⋯=,=,

211

==,

==,⋯=,==,

11211

=

11

=1

反向算法

（3