关于深度学习的综述与讨论.PDF

第 14 卷第 1 期 智　能　系　统　学　报 Vol.14 No.1 2019 年 1 月 CAAI Transactions on Intelligent Systems Jan. 2019 DOI: 10.11992/tis.201808019 网络出版地址: /kcms/detail/23.1538.TP1409.002.html 关于深度学习的综述与讨论 1 1 1 2 1,3 胡越，罗东阳，花奎，路海明，张学工 （1. 清华大学 自动化系，北京 100084; 2. 清华大学 信息技术研究院，北京 100084; 3. 清华大学 生命学院，北京 100084 ） 摘 要：机器学习是通过计算模型和算法从数据中学习规律的一门学问，在各种需要从复杂数据中挖掘规律的 领域中有很多应用，已成为当今广义的人工智能领域最核心的技术之一。近年来，多种深度神经网络在大量机 器学习问题上取得了令人瞩目的成果，形成了机器学习领域最亮眼的一个新分支——深度学习，也掀起了机器 学习理论、方法和应用研究的一个新高潮。对深度学习代表性方法的核心原理和典型优化算法进行了综述，回 顾与讨论了深度学习与以往机器学习方法之间的联系与区别，并对深度学习中一些需要进一步研究的问题进 行了初步讨论。 关键词：深度学习；机器学习；卷积神经网络；递归神经网络；多层感知器；自编码机；学习算法；机器学习理论 中图分类号：TP18 文献标志码：A 文章编号：1673−4785(2019)01−0001−19 中文引用格式：胡越, 罗东阳, 花奎, 等. 关于深度学习的综述与讨论[J]. 智能系统学报, 2019, 14(1): 1–19. 英文引用格式：HU Yue, LUO Dongyang, HUA Kui, et al. Overview on deep learning[J]. CAAI transactions on intelligent systems, 2019, 14(1): 1–19. Overview on deep learning 1 1 1 2 1,3 HU Yue ，LUO Dongyang ，HUA Kui ，LU Haiming ，ZHANG Xuegong (1. Department of Automation, Tsinghua University, Beijing 100084, China; 2. Institute of Information Technology, Tsinghua Uni- versity, Beijing 100084, China; 3. School of Life Sciences, Tsinghua University, Beijing 100084, China) Abstract : Machine learning is a discipline that involves learning rules from data with mathematical models and com- puter algorithms. It is becoming one of the core technologies in the field of artificial intelligence, and it is useful for many applications that require mining rules from complex data. In recent years, various deep neural networ