基于非均匀MCE准则的DNN关键词检测系统中声学模型的训练.docVIP

基于非均匀MCE准则的DNN关键词检测系统中声学模型的训练 　　摘 要：关键词检测是从连续语音流中检测预先定义的给定词的技术，是语音识别领域的一个重要应用。目前的关键词检测研究中，主流的方法是基于连续语音识别器的先识别后检测的两阶段方法，语音识别器的准确率对关键词检测有很大影响。本文首先在识别阶段引入深度学习技术来改善关键词检测算法的性能。进而针对识别阶段和检测阶段缺乏紧密联系，耦合度不够的问题，研究了侧重关键词的深度神经网络声学建模技术，利用非均匀的最小分类错误准则来调整深度神经网络声学建模中的参数，并利用AdaBoost算法来动态调整声学建模中的关键词权重。结果表明，利用非均匀最小分类错误准则来调整深度神经网络参数进行优化的声学模型，可以提高关键词检测的性能。 中国论文网 /8/view-7212310.htm 　　关键词：深度学习；关键词检测；AdaBoost；最小分类错误 　　中图分类号：TP391.4 文献标识码： A 文章编号：2095-2163（2015）04- 　　Non-uniform MCE based Acoustic Model for Keyword Spotting based on Deep Neural Network 　　WANG Zhaosong， HAN Jiqing， ZHENG Tieran 　　（School of Computer Science and Technology， Harbin Institute of Technology， Harbin 150001，China） 　　Abstract： Spoken term detection （STD） is a task to automatically detect a set of keywords in continuous speech， which is an important field of speech recognition. Current study is based on two-stage approach i.e. recognition and detection. The accuracy of speech recognition has a significant impact on keyword detection. Firstly， this paper uses deep leaning techniques to improve performance during the first stage. As the two stages lack of close contact， the paper studies using non-uniform misclassification error （MCE） criteria to adjust the parameters in deep neural network based acoustic modeling. Further the paper uses the adaptive boosting （AdaBoost） strategy to adjust keywords weight dynamically. It shows that non-uniform MCE can improve the performance of STD. 　　Keyword： Deep Learning； Spoken Term Detection； AdaBoost； Minimum Classification Error 　　0 引 言 　　自2006年以来，深度学习已经成为机器学习的一个重点研究领域，而且现已在许多方面取得了卓越进展。而在语音识别领域，基于深度学习的方法也随即应用而生，特别是在声学建模上，深度神经网络（Deep Neural Network， DNN）已经能够替代高斯混合模型（Gaussian Mixture Model， GMM），并和隐马尔科夫模型（Hidden Markov Model， HMM）结合而推出了DNN-HMM混合模型，在实际应用中取得了很高的识别率[1]。当前的关键词检测（Spoken term detection， STD）系统通常是利用大词汇量连续语音识别器（large vocabulary continuous speech recognition， LVCSR）来对搜索语音解码产生关键词假设，再通过将输入语音转换为文本形式；基于此，关键词检测系统就可以利用文本搜索的一些技术，但其与文本搜索不同的则是关键词检测多会利用lattice来表示语音识别结果[2-3]