手写数字深度特征学习和识别.PDFVIP

第26卷 第7期 计 算机 技 术 与发 展 Vol.26 No.7 2016年7月 COMPUTERTECHNOLOGY AND DEVELOPMENT July 2016 手写数字深度特征学习与识别 陈浩翔,蔡建明,刘铿然,林秋爽,张文玲,周 涛 (华南师范大学数学科学学院,广东广州 510631) 摘 要:深度学习中的网络结构设计、特征提取与融合是数据挖掘和模式识别理论和行业应用中的关键问题。 文中以相 关领域中的典型应用问题手写数字识别和权威数据库MNIST为实验平台(包含七万个手写数字图像),探索了深度学习网 络结构的设计和特征融合问题,保证研究结果的实用性、代表性和可参考性。 所给方案的步骤是:首先,设计非监督深度 学习网络,进行非监督高层语义特征学习,提取深度特征(DF),探索特征的高层认知特点;其次,对手写数字数据库进行非 监督多特征提取,包括HOG(梯度方向直方图)特征、PCA(主成分分析)特征、LDA(判别分析)特征、像素分布特征、穿越次 数特征和投影特征,构建手写数字典型特征库(Library ofTypical Features,LTF);最后,构建深度有监督学习网络,有监督地 融合深度特征DF和典型特征库。 实验结果表明,相比于文献中的典型特征,该方案能够将手写数字识别的错误率有效降 低50%。 关键词:深度学习;特征融合;特征提取;手写数字识别;主成分分析;梯度方向直方图 中图分类号:O235 文献标识码:A 文章编号:1673-629X(2016)07-0019-05 doi:10.3969/j.issn.1673-629X.2016.07.005 Deep Learning and Recognition of Handwritten Numeral Features CHEN Hao-xiang,CAI Jian-ming,LIU Keng-ran,LIN Qiu-shuang,ZHANG Wen-ling,ZHOU Tao (School of Mathematics,South China Normal University,Guangzhou510631,China) Abstract:Network structuredesign,featureextractionandfusionindeeplearningarekeyproblemsindataminingandpatternrecognition theory and industry application.The design of deep learning network爷s structure and the problem of feature fusion is explored,taking handwritten numeralrecognition andauthoritative databaseMNIST,with70 thousandsofhandwritten image,astheexperimentplatform, which guaranteesthepracticability,representationandreferenceoftheresearchresults.Thesolution stephasbeengiven.Firstly,theunsu- pervised deep learning network isdesigned,learning unsupervisedhigh-level semanticfeatures,extraction of depth features,and explora- tion of higher cognitivecharacteristicsoffeatures.Secondly,unsupervisedfeaturesofhandwr