基于单音素的高斯选择.docVIP

  基于单音素的高斯选择 周亮程，刘刚** （北京邮电大学信息与通信工程学院，北京 100876） 5 10 摘要：在基于 HMM 的连续语音识别系统中由于考虑上下文环境的影响，需要进行三音素扩 展，模型基元数目庞大；为了提高模型的描述精度，模型的每一个状态又都由多个高斯分量 来描述，所以最终的声学模型空间规模巨大，解码过程中为得到状态似然值所需的计算量非 常大，实时性差。为了减少计算量，前人提出了不少的算法，包括子空间聚类、高斯选择等 算法，作者重点研究了高斯选择算法，针对传统高斯选择算法的缺点做了改进，进而提出了 一种改进的高斯选择算法——基于单音素的高斯选择，最终通过实验验证了改进算法的有效 性。 关键词：语音识别；HMM；高斯选择 中图分类号：TP181 15 Monophone-Based Gaussian Selection ZHOU Liangcheng, LIU Gang (Beijing University of Posts and Telecomunications,Beijing 100876) Abstract: Phoneme expansion is made from mono-phone to tri-phone because of context, the 20 25 30 35 40 number of models is very large. Each state of every model consists of multiple Gaussians for high accuracy and large-scale HMM contains a large number of Gaussians. As a consequence, speed of decoding is quite slow. For speeding up decoding, researchers address many methods, including Sub-space Clustering, Gaussian Selection and so on. A research is made on Gaussian Selection and a new Gaussian Selection is proposed to overcome disadvantage of conventional Gaussian Selection. Key words: Auto Speech Recognition; HMM; Gaussian Selection 0 引言 虽然经过最近几十年的发展，基于 HMM[1]的语音识别技术有了很大的提高并且也已经 成功应用于多个领域，但是依然有许多问题需要克服，尤其是大词汇量连续语音识别。在连 续语音识别中，由于考虑到上下文的影响，故而采用了多音子（例如三音子、五音子）建模 方法；同时为了提高模型的描述精度，模型的每个状态由多个（例如 32、64）高斯分量表 示，所以解码空间中的高斯分量数目大得惊人，这将导致解码器解码速度的急剧下降。虽然 在训练过程中对状态进行了聚类，这在一定程度上能够减少解码空间中高斯分量的数目，但 状态聚类主要是解决数据稀疏性的问题，并不能从根本上解决解码空间中高斯分量数目巨大 的难题。 语音识别除了基于 HMM 理论之外，还有基于神经网络[2]理论和 SVM[3]等分类理论的， 但是本文的研究仅限于基于 HMM 理论的语音识别系统。 为了解决状态似然值计算量大的问题，作者调研了声学模型压缩方面的论文，最常用的 算法有高斯选择[4]、子空间聚类[5]、利用信息熵压缩参数[6]等算法，经过进一步调研发现， 在同等情况下，高斯选择算法能获得更好的效果，于是作者重点调研了高斯选择算法，针对 传统高斯选择算法的缺点做了改进并提出了一种基于单音素的改进的高斯选择算法，经过多 作者简介：周亮程（1987-），男，学生，语音信号处理 通信联系人：刘刚（1973-），男，副教授，语音信号处理. E-mail: liugang@bupt.edu.cn -1-   次试验验证了改进算法的有效性。 本文接下来的章节安排如下：第一节介绍传统的高斯选择算法，第二节介绍作者改进的 45 50 55 60 高斯选择算法——基于单音素的高斯选择算法，第三节介绍试验结果及分析，第四节为总结。 1 高斯选择 在大词汇量连续语音识别系统中，为了提高模型的描述精度，模型的每个状态都是由多 个高斯概率密度函数共同描述的，根据不同的系统要求，状态的高斯数从 8 到 64 不等，这 正是造成解码速度过慢的主要原因。有研究表明，总解码时间的 30%~70%都花在了