基于增量估计的快速高斯计算.pdfVIP

NCMMSC’2009 ，8 月14－16 日，新疆乌鲁木齐 基于增量估计的快速高斯计算 1 1 2 钱胜 ，吕萍 ，吴及 (1. 清华-讯飞语音技术联合实验室，北京 100084 ；2. 清华大学电子工程系，北京 100084) 文 摘： 本文分析讨论了连续语音识别系统中的快速高斯计算问题。语音信号的短时平稳特性，使得相邻语音帧可 能共享相似的分布。利用该特性，估计当前帧与基准帧间似然值增量的最大值，以此减少似然值的精确计算量。这种 快速高斯计算方法称为最大概率增量估计算法。本文深入讨论了该算法在实际应用中的若干问题：增量上界估计、最 优高斯候选、风险因子等。实验结果表明，在几乎不损失识别率的情况下，MPIE 算法可节约40% 的维数计算，解码 速度相对提高10%。 关键词：语音识别；快速高斯计算 中图分类号： TP912.34 当前，连续语音识别系统中声学建模的主流技 Estimation ：MPIE ）算法。由于语音信号具有短时 术是连续概率隐马尔可夫模型（Continuous Density 平稳特性，MPIE 算法发掘已经计算过的高斯似然 Hidden Markov Model, CD-HMM ）。以三音子 值对当前帧高斯计算的影响，选择部分高斯进行精 （triphone ）为声学建模单元的HMM 中，经过状态 确计算，余下的则只需要估计其似然值增量。然而， 共享后，声学模型通常包含 2000～6000 个状态。 由于所有的高斯分量共享相同的增量上界，对很多 而每个状态用混合高斯模型（Gaussian Mixture 高斯分量而言，增量上界远大于实际增量值。本文 Model ， GMM ）来描述其概率分布。通常 GMM 将重点讨论 MPIE 算法在实际应用中遇到的高估 中高斯分量数目为8～64 个。如此精细的声学模型， （overestimation ）问题：增量上界估计、最优高斯候 在保证较高识别正确率的同时，也使得系统花费大 选、风险因子选择等等。 量时间来计算高斯似然值。文献[1]显示，依识别任 本文余下部分安排如下：第一节介绍MPIE 算 务和声学模型的复杂程度，高斯计算占识别时间的 法的基本思想。第二节讨论MPIE 算法在实际应用 30%～70% 。因此，优化高斯计算是提高语音识别 中遇到的问题，及相应的修改方法。实验结果和分 系统速度的途径之一。 析在第三章进行描述。最后，第四章是本文总结。 针对语音识别中的高斯计算加速问题，已经提 出了几种不同的方法。一些方法在识别准确性和识 1 MPIE算法 别速度两方面寻找折中，以牺牲识别率来换取速度 提升。例如：高斯聚类[2]和基于树的搜索算法[3] 在基于HMM 的连续语音识别系统中，高斯似 对某帧数据，快速定位出最可能的高斯子集，从而 然值计算公式如下： 高斯似然值计算可以用汉明距离近似法（Hamming p (o ) N (o ;μ ,Σ ) m m m Distance Approximation ）来估计[4]。另一些方法则 1 ⎛ 1 T −1 ⎞ =⋅exp − o −μ Σ o −μ( ) ( ) 旨在不损失识别率的情况下，来提高计算速度。典 (2π)D Σm ⎜⎝ 2 m m m ⎟⎠ 型的算法有