HMM介绍及其在语音识别中应用(新).ppt

形成过程 连续语音切分为识别单元—音段 每个音段采用一组数量有限的状态加以刻画 状态的变化反应了语音特征的变化 各时刻所处状态依概率而存在 自左到右无跳转HMM模型 转移概率矩阵A=[aij], i+1=j=i 观察概率矩阵B=[bi] 2.动态模型 1 2 3 三状态自左到右无跳转HMM模型 1 1 1 2 2 2 3 3 3 状态过程： 可能的状态序列 s1,s1,s1,s2,s3; s1,s1,s2,s2,s3 s1,s1,s2,s3,s3; s1,s2,s2,s2,s3 s1,s2,s2,s3,s3; s1,s2,s3,s3,s3 3.对语音的刻画 短时平稳性 每个状态对应于一特征平稳段 信号的时变性 通过调整各个模型中在每个状态的驻留次数（时间），实现模型与信号之间的时间对齐 特征的多样性 通过训练数据，覆盖音段特征的变化，进而用于模型参数训练，通过模型参数的统计分布加以反映 对应于两个随机过程 状态与音段特征间的统计关系 状态转移统计描述平稳段间的如何转移 4.模型定义 L个有限状态Sj构成状态集；任意时刻n所处状态为的xn；任意时刻n的特征矢量（输出观察）为yn。对应于三个模型参数（离散概率） 初始状态概率矢量 状态转移概率矩阵A 观察概率矩阵B HMM模型构成 1. 前向后向算法计算P(O|λ) ； 2. Baum-Welch 算法求出最优解λ*= argmax{P(O|λ) }； 3. Viterbi算法解出最佳状态转移序列； 4. 根据最佳状态序列对应的λ给出候选音节或声韵母 5. 通过语言模型形成词和句子 经典HMM语音识别一般过程 谢谢! 1.DTW：把未知量均匀地伸长或缩短，直到它与参考模式的长度一致时为止。在时间规整过程中，未知单词的时间轴要不均匀地扭曲或弯折，以便使其特征与模型特征对正。DTW应用动态规划方法在孤立词语音识别中获得了良好性能，但因其不适合连续语音大词汇量语音识别系统。 2. 隐马尔可夫模型是对语音信号的时间序列结构建立统计模型，将之看作一个数学上的双重随机过程：一个是用具有有限状态数的Markov链来模拟语音信号统计特性变化的隐含的随机过程，另一个是与Markov链的每一个状态相关联的观测序列的随机过程。前者通过后者表现出来，但前者的具体参数是不可测的。根据训练集数据计算得出模型参数后，测试集数据只需分别计算各模型的条件概率（Viterbi算法），取此概率最大者即为识别结果。 3.人工神经网络本质上是一个自适应非线性动力学系统，模拟了人类神经元活动的原理，具有自适应性、并行性、鲁棒性、容错性和学习特性。目前用于语音识别的神经网络有多层感知机，Kohonen自组织神经网和预测神经网。 * 未知状态链和观测链在一起构成隐马尔科夫链 * * * * * * * * * * * * 及其在语音识别中的应用 报告人：李 敏 HMM介绍 内容提要 语音识别简介 隐马尔可夫模型相关理论 隐马尔可夫模型基本算法 HMM在语音识别中的应用 语音识别 声学 信息论 语音语言学 信号 处理 人工 智能 模式 识别 数理 统计 听写机 查询 系统 电话 拨号 残疾人用品 消费 电子 … … 实际应用 学科基础 语音识别技术基础与应用 语音识别系统的基本构成 analysis Pattern training Templates or models Pattern classifier Decision logic speech Recognized speech LPCC MFCC Test pattern Reference pattern Search algorithm 语者无关/相关 词表大小 孤立词 vs. 连续语音 环境噪声等 语音识别的几个关键因素 常用语音识别方法 1.模式匹配的方法：DTW 2.统计模型方法：HMM 3.人工神经网络的方法 Andrei A. Markov Russian statistician 1856 – 1922 马尔可夫链理论 s1 s2 s3 N=3 t=0 q0=s3 有N个状态，S1,S2…SN 一阶离散马尔可夫模型 下一个时刻所处的状态是随机出现的 在每个时刻t，系统只能处于唯一一个状态qt 存在一个离散的时间序列 t=0,t=1…… 当前状态 当前状态qt只与前面相邻的一个状态qt-1有关，与其他状态无关 s1 s2 s3 一阶离散马尔可夫模型 1 1/2 1/2 1/3 2/3 s1 s2 s3 一阶离散马尔可夫模型 1 1/2 1/2 1/3 2/3 aij--- 转移概率 并且满足如下的标准随机