深度信念网络的等效模型和权值扩展算法研究.docVIP

深度信念网络的等效模型及权值扩展算法研究 高强，王明 （华北电力大学 电气与电子工程学院，河北 保定 071003） 摘要：针对深度信念网络(DBN)中小样本情况下，训练模型泛化性较差，分类识别率不够理想，系统性能有待提高等问题，研究了DBN的等效模型，分析了小样本情况下识别率差的问题；并提出一种区间化权值扩展方法，扩大了样本和权值的匹配空间，使判决更有利于正确分类，提高了小样本情况下的图像分类准确性；用检测与估值理论给出了算法能提高系统检测性能的依据，并在不同的数据库上进行了实验测试，进一步证明了小样本情况下图像分类准确率的提高。最后，将该方法应用到了小样本绝缘子故障识别中。 关键词：深度信念网络；等效模型；最佳接收；小样本；区间数 中图分类号：TMN919.8 文献标识码：A Research on Equivalent Model and Weight Extension Algorithm of Deep Belief Network Gao Qiang , Wang Ming (Department of Electronic and Communication Engineering , North China Electric Power University , Baoding 071003 , China) Abstract: Aiming at the problem of low recognition accuracy of the training model in the case of less data samples in deep belief network (DBN),which led to the classification recognition rate is not ideal, the system performance needs to be improved. Research the equivalent model of DBN, analyze the problem of poor recognition rate in the case of small samples ;Then propose a weight expansion algorithm to enlarge the matching space between the sample and weight ,so that the decision is more conducive to correct classification, which improves the accuracy of image classification under the condition of small sample size; And the algorithm is proved that can promote the performance of the system by using the detection and estimation theory, the test of different sample banks is further proof of this completion. Finally, the method is applied to small sample faulted insulator recognition. Keywords: deep belief network, equivalent model, best reception, small sample, interval number 0 引言 深度学习作为人工智能技术的新发展，被广泛应用于计算机视觉、语音识别[1]、手写体识别[2]、人脸识别[3]和图像处理等领域。其中，由Geoffrey Hinton[4]提出的深度信念网络(Deep Belief Network ,DBN)是深度学习中最重要的网络结构之一，使用大量的数据训练得到最终的模型来进行分类和识别。在实际的绝缘子故障识别应用中，具有较好分类能力的深度信念网络是一个较好的检测手段。数据是模型训练的关键，数据量要足够大，模型的泛化性才能好，否则得到的模型不能形成对整个数据的描述，存在过拟合现象。 目前人们对DBN的应用研究[5-9]已经非常多，但是DBN理论上的模型不够清晰，实际应用中还存在很多小样本问题。关于神经网络中的小样本问题，大部分的出发点都是扩充样本数或者间接利用小样本来辅助优化网络模型，如文献[10]中利用小样本对神经网络可能的组合参数进行模拟训练和测试，选取最优化的一组神经网络参数，进而提