一种改进深度神经网络在小图像分类中应用研究.PDF

第３１卷第４期　　　 计算机应用与软件 Ｖｏｌ３１Ｎｏ．４ ２０１４年４月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ａｐｒ．２０１４ 一种改进的深度神经网络在小图像分类中的应用研究 １ ２ １ 吕　刚　郝　平 　盛建荣 １（金华广播电视大学理工学院　浙江金华３２１０００） ２（浙江工业大学信息工程学院　浙江杭州３１００３２） 摘　要　　基于卷积神经网络和深度信念网络各自的优点，通过把卷积神经网络的局部感受野引入到深度信念网络的单层中，把深 度信念网络的单层分成多个子ＲＢＭ，提出一种改进的深度信念网络。分别用ＢＰ网络、卷积神经网络、深度信念网络和改进的深度 信念网络对模型ＭＮＩＳＴ和Ｃｉｆａｒ１０数据库进行小图像分类识别实验；根据实验结果，改进的深度信念网络在Ｃｉｆａｒ１０库上错误率为 ３０．１６％，比卷积神经网络低了９％，比传统的深度信念网络低了４０％；在ＭＮＩＳＴ上的识别错误率为１．２１％，比传统的深度信念网络 分别降低了１６％，略高于卷积神经网络。试验结果表明改进的ＤＢＮ网络在小图像分类应用中是有效的。 关键词　　深度学习　卷积神经网络　信念网络　字符识别　图像分类 中图分类号　ＴＰ３９１．４３　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１４．０４．０４６ ＯＮＡＰＰＬＹＩＮＧＡＮＩＭＰＲＯＶＥＤＤＥＥＰＮＥＵＲＡＬＮＥＴＷＯＲＫＳ ＩＮＴＩＮＹＩＭＡＧＥＣＬＡＳＳＩＦＩＣＡＴＩＯＮ １ ２ １ ＬüＧａｎｇ　ＨａｏＰｉｎｇ　ＳｈｅｎｇＪｉａｎｒｏｎｇ １（ＣｏｌｌｅｇｅｏｆＴｅｃｈｎｏｌｏｇｙ，ＪｉｎｈｕａＲａｄｉｏａｎｄＴｅｌｅｖｉｓｉｏｎＵｎｉｖｅｒｓｉｔｙ，Ｊｉｎｈｕａ３２１０００，Ｚｈｅｊｉａｎｇ，Ｃｈｉｎａ） ２（ＣｏｌｌｅｇｅｏｆＩｎｆｏｒｍａｔｉｏｎＥｎｇｉｎｅｅｒｉｎｇ，ＺｈｅｊｉａｎｇＵｎｉｖｅｒｓｔｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈａｎｇｚｈｏｕ３１００３２，Ｚｈｅｊｉａｎｇ，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　Ｂａｓｅｄｏｎｔｈｅａｄｖａｎｔａｇｅｓｏｆｂｏｔｈｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ（ＣＮＮ）ａｎｄｄｅｅｐｂｅｌｉｅｆｎｅｔｗｏｒｋｓ（ＤＢＮ）ｅａｃｈ，ｂｙｉｎｔｒｏｄｕｃｉｎｇ ＣＮＮ’ｓｌｏｃａｌｒｅｓｐｅｃｔｉｖｅｆｉｅｌｄｔｏｔｈｅｓｉｎｇｌｅｌａｙｅｒｏｆａＤＢＮａｎｄｄｉｖｉｄｉｎｇｓｕｃｈｓｉｎｇｌｅｌａｙｅｒｉｎｔｏｍａｎｙｓｕｂＲＢＭ（ｒｅｓｔｒｉｃｔｅｄＢｏｌｔｚｍａｎｎｍａｃｈｉｎｅ）， ｗｅｐｒｅｓｅｎｔａｎｉｍｐｒｏｖｅｄＤＢＮ．ＴｉｎｙｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎａｎｄｒｅｃｏｇｎｉｔｉｏｎｅｘｐｅｒｉｍｅｎｔｓｉｓｃｏｎｄｕｃｔｅｄｏｎｍｏｄｅｌＭＮＩＳＴａｎｄＣｉｆａｒ１０ｄａｔａｂａｓｅ ｕｓｉｎｇＢＰｎｅｔｗｏｒｋ，ＣＮＮ，ＤＢＮａｎｄｉｍｐｒｏｖｅｄＤＢＮｒｅｓｐｅｃｔｉｖｅｌｙ．Ａｃｃｏｒｄｉｎｇｔｏｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓ，ｔｈｅｅｒｒｏｒｒａｔｅｏｆｔｈｅｉｍｐｒｏｖｅｄＤＢＮｏｎ Ｃｉｆａｒ１０ｉｓ３０．１６％，９％ｄｅｃｒｅａｓｅｔｈａｎｔｈｅＣＮＮ’ｓ，ａｎｄ４０％ｄｅｃｒｅａｓｅｔｈａｎｔｒａｄｉｔｉｏｎａｌＤＢＮ’ｓ；ｔｈｅｒｅｃｏｇｎｉｔｉｏｎｅｒｒｏｒｒａｔｅｏｎＭＮＩＳＴｉｓ １．２１％，１６％ｄｅｃｒｅａｓｅｔｈａｎｔｒａｄｉｔｉｏｎａｌＤＢＮ’ｓ，ａｎｄａｌｉｔｔｌｅｈｉｇｈｅｒｔｈａｎＣＮＮ’ｓ．ＴｅｓｔｒｅｓｕｌｔｄｅｍｏｎｓｔｒａｔｅｓｔｈａｔｔｈｅｉｍｐｒｏｖｅｄＤＢＮｉｓｅｆｆｅｃｔｉｖｅ ｉｎｔｉｎｙｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏ