一种混合深度网络的抗噪性能研究.pdfVIP

第41卷 第 1l期 计 算 机 工 程 2015年 11月 Vo1．41 No．11 ComputerEngineering November2015 · 人工智能及识别技术 · 文章编号：1000．3428(2015)11．0213．05 文献标识码：A 中图分类号：TP18 一 种混合深度网络的抗噪性能研究 王碌尧 一，刘云海 ’ (1．浙江大学信息与通信工程研究所 ，杭州 310027； 2．浙江省综合信息网技术重点实验室，杭州 310027) 摘 要：实际图像识别场景中样本易受噪声的影响，且大量训练样本的获取 比较困难 。针对上述 问题，提出一种基 于混合结构的深度学习网络。选择合适稀疏限制算法运用到 自动编码器中，将其构造在混合结构的深度学习网络 的底层和高层 ，解决一般 自动编码器无法有效降低背景噪声影响的问题 。在深度学习网络 的中间层插入改进的无 向高斯伯努利受限玻尔兹曼机 ，进行无监督学习得到低层输 出的抽象表示 。混合结构 的深度学习网络利用最高的 回归层进行有监督的微调和分类 。实验结果表 明，与传统的浅层算法和经典深度学习网络相 比，该混合结构的深 度网络在大、小样本量的训练下均具有较好的抗噪能力。 关键词：混合结构 ；深度网络 ；噪声 ；稀疏限制 ．，J、样本量 中文引用格式：王璨尧，刘云海．一种混合深度网络的抗噪性能研究 [J]．计算机工程，2015，41(I1)：213—217． 英文引用格式 ：WangJingyao，LiuYunhai．A ResearchonAnti—noisePerformanceofHybridDeepNetwork[J] ComputerEngineering，2015，41(11)：213—217． A Research on Anti-noisePerformanceofHybrid DeepNetwork W ANG Jingyao一．LIU Yunhai， (1．InstituteofInformationandCommunicationEngineering，ZhejiangUniversity，Hangzhou310027，China； 2．KeyLaboratoryofIntegrateInformationNetworkTechnologyofZhejiangProvince，Hangzhou310027，China) 【Abstract】Hybridstructureofdeepnetworkwhichachieveslowclassificationerrorratewhenmeetingnoisyandlimited trainingdataispresentedsincemanyrealworldpicturesareundernoise．Propersparseregularizationalgorithm isapplied to auto—encoders，whichareseton thelowerand higherlayersand can distinguish background noisemoreeffectively． MiddlelayerisproposedoffthebasisoftheundirectedGaussian—BernoulliRestrictedBoltzmannMachine(GRBM)toa betterabstractrepresentation．Hybrid structureofdeep networkusesaregression layeron thetop forfine—tuning and classification．Experimentalresultsshow thathybridstructureofdeepnetworkcan achievebetterperformanceundernoisy background regardlessofnumberoft