基于Sigmoid学习率BP神经网络非特定人语音识别算法研究.docVIP

基于Sigmoid学习率BP神经网络非特定人语音识别算法研究 　　摘要：本课题基于非特定人语音识别的原理和过程，结合BP神经网络的建模理论及特点，主要研究了BP神经网络模型在语音模式识别中的应用问题。同时针对标准BP神经网络训练收敛速度慢及容易陷入局部最小的缺点，提出了Sigmoid学习率BP神经网络训练算法，并通过仿真计算，得出在非特定人语音识别应用方面Sigmoid学习率BP神经网络算法的收敛速度要优于标准BP神经网络算法且识别率更高。 　　Abstract： Based on the principle and process of non-specific speech recognition， this paper focuses on the application of BP neural network model in speech pattern recognition， combined with the modeling theory and characteristics of BP neural network. At the same time， the Sigmoid learning rate BP neural network training algorithm is proposed for the training of BP neural network， and the Sigmoid learning rate BP neural network is obtained by simulating the non-specific speech recognition application. The convergence rate of the algorithm is better than that of the standard BP neural network algorithm and the recognition rate is higher. 　　关键词：BP神经网络；学习率；语音识别 　　Key words： BP neural network；learning rate；speech recognition 　　中图分类号：TP183 文献标识码：A 文章编号：1006-4311（2017）33-0200-03 　　0 引言 　　市场上成熟的语音识别产品基本都是基于统计模式识别理论而开发的，但因人工神经网络具有非线性、自适应性、鲁棒性、自学习特性且易于硬件实现的优点，以及具有强大的分类能力和输入输出映射能力，使其应用于语音模式识别领域将有很大的发展潜力，将人工神经网络应用于语音识别，改进现有语音识别系统的性能，是当前语音识别研究的一个重要方向，具有重大的现实意义。 　　1 标准BP神经网络 　　BP神经网络是一种多层前馈神经网络，该网络的主要特点是信号前向传递，误差反向传导。在向前传导中，输入信号从输入层经隐含层逐层处理，直至输出层。每一层的神经元状态只影响下一层神经元状态。如果输出层得不到期望输出，则转入反向传播，根据预测误差调整网络权值和阈值，从而使BP神经网络预测输出不断逼近期望输出。BP神经网络具有非线性无限逼近的特点。 　　BP神经网络结构如图1所示。 　　2 网络收敛速度改进方法 　　BP神经网络属于有导师学习算法，根据期望输出和实际网络输出之间误差来调整神经元间连接的强度或权值。但是BP神经网络标准学习算法在训练时收敛速度较慢，且容易产生过学习现象，而学习率的大小对网络收敛速度和训练结果影响很大。如果学习率太小，则学习速度太慢；如果学习率太大，则容易产生过学习现象。本文在标准BP神经网络算法的基础上对其进行改进，主要是采用变学习率BP神经网络算法，学习率使用Sigmoid函数并用迭代的方法求出，本文把该学习率定义为Sigmoid学习率，具体计算步骤如下。 　　对步骤4的改进算法如下，u为Sigmoid学习率： 　　对步骤5的改进算法如下： 　　3 将改进的BP神经网络算法用于非特定人语音识别系统的设计 　　语音识别系统的设计有很多种方法，我们采用BP神经网络模型进行语音识别系统的设计，首先要将待识别的语音信号输入识别系统，经过预处理后用数学方法提取语音特征信号，提取的语音特征信号可以看出是语音模式，然后将该语音模式归一化处理，输入BP神经网络语音识别系统进行识别。而基于BP神经网络的语音识别建模又分为BP神经网络构建、BP神经网络训练和BP神经网络分类三个步骤，具体语音识别系统流程如图2所示。 　　首先我们根据系统输入输出数据特点构建BP神经网络的结构，由于语音特征输入信号有24维，待分类的语音特征信号有