深度学习相关研究综述.PDF

35 7 Vol. 35 No. 7 第 卷第 期 计算机应用研究 优先出版 Application Research of Computers Online Publication 深度学习相关研究综述 * 张军阳，王慧丽，郭 阳，扈 啸 ( 国防科学技术大学 计算机学院, 长沙 410073) 摘 要：随着大数据时代的到来，深度学习技术已经成为当前人工智能领域的一个研究热点，其已在图像识别、语音 识别、自然语言处理、搜索推荐等领域展现出了巨大的优势，并且仍在继续发展变化。为了能够及时跟踪深度学习技 术的最新研究进展，把握深度学习技术当前的研究热点和方向，本文针对深度学习技术的相关研究内容进行综述。首 先介绍了深度学习技术的应用背景、应用领域，指出研究深度学习技术的重要性；其次介绍了当前重要的几种神经网 络模型及两种常用大规模模型训练并行方案，其目的在于从本质上理解深度学习的模型架构和及其优化技巧；接着对 比分析了当下主流的深度学习软件工具和相关的工业界研究平台，旨在为神经网络模型的实际使用提供借鉴；最后详 细介绍了当下几种主流的深度学习硬件加速技术和最新研究现状，并对未来研究方向进行了展望。 关键词：深度学习；神经网络；算法模型；软件工具；硬件加速 中图分类号：TP181 Review of deep learning Zhang Junyang, Wang Huili, Guo Yang, Hu Xiao (College of Computer, National University of Defense Technology, Changsha 410073, China) Abstract: With the era of big data coming, deep learning technology has become a hotspot research in the field of artificial intelligence. It has shown great advantages in image recognition, speech recognition, natural language processing, search recommendation and so on, while still continues to evolve. In order to keep track of the latest research progress of deep learning technology and grasp the current research hotspot and direction of deep learning, this paper reviews the related research contents of deep learning technology. Firstly, it introduces the application background and application field of deep learning technology and points out the importance of studying on deep learning technolo