基于自编码器的特征迁移算法.pdf

第 12 卷第 6 期 智　能　系　统　学　报 Vol.12 No.6 2017 年 12 月 CAAI Transactions on Intelligent Systems Dec. 2017 DOI: 10.11992/tis.201706037 网络出版地址: /kcms/detail/23.1538.TP1250.012.html 基于自编码器的特征迁移算法 1 1 1 2 杨梦铎，栾咏红，刘文军，李凡长 （1. 苏州工业职业技术学院 软件与服务外包学院，江苏 苏州 215104; 2. 苏州大学 计算机科学与技术学院，江苏 苏州 215006 ） 摘 要：近年来，栈式自编码网络（stacked auto-encoder，SAE ）在大规模数据集上表现出优异的图像分类性能。相对 于其他图像分类方法中手工设计的低级特征，SAE 的成功归因于深度网络能够学习到丰富的中级图像特征。然而， 估计上百万个网络参数需要非常庞大的带标签的图像样本数据集。这样的性质阻止了SAE 在小规模训练数据上的 许多应用。在这篇文章中，提出的算法展示如何将SAE 在大规模数据集上学习到的图像表示有效地迁移到只有有 限训练数据的视觉识别任务中。实验部分设计了一个方法来复用在MNIST 数据集上训练得到的隐藏层，以此计算 在MNIST-variations 数据集上的中级图像表示。实验结果展示了尽管两个数据集之间存在差异，但是被迁移的图像 特征能够使得模型的分类性能得到极大的提升。 关键词：自编码器；特征迁移；深度网络；深度学习；图像分类；中级图像特征；视觉识别；大规模数据集 中图分类号：TP181 文献标志码：A 文章编号：1673−4785(2017)06−0894−05 中文引用格式：杨梦铎, 栾咏红, 刘文军, 等. 基于自编码器的特征迁移算法[J]. 智能系统学报, 2017, 12(6): 894–898. 英文引用格式：YANG Mengduo, LUAN Yonghong, LIU Wenjun, et al. Feature transfer algorithm based on an auto-encoder[J]. CAAI transactions on intelligent systems, 2017, 12(6): 894–898. Feature transfer algorithm based on an auto-encoder 1 1 1 2 YANG Mengduo ，LUAN Yonghong ，LIU Wenjun ，LI Fanzhang (1. Department of Software and Service Outsourcing, Suzhou Vocational Institute of Industrial Technology, Suzhou 215104, China; 2. School of Computer Science and Technology, Soochow University, Suzhou 215006, China) Abstract : The stacked auto-encoder (SAE) has recently shown outstanding image classification performance in large- scale datasets. Relative to the low-level features of artificial desig