机器学习原理与应用 课件 第4章 深度学习与神经网络.pptx

机器学习原理与应用毋建军、姜波、郭舒2025年1月

第4章深度学习与神经网络

目录深度学习神经网络深度神经网络卷积神经网络循环神经网络4.14.24.34.44.5长短期记忆网络4.6

本章学习目标（知识要点）了解深度学习的基本概念及主要流程；掌握神经网络的组成框架及关键技术；熟悉神经网络处理技术的一些常用技巧；熟练掌握CNN、RNN、LSTM等经典的神经网络算法的基本原理；熟练使用神经网络算法对手写数字识别和文本分类的应用

目录深度学习神经网络深度神经网络卷积神经网络循环神经网络4.14.24.34.44.5长短期记忆网络4.6

◎深度学习简介◎深度学习发展历程◎深度学习分类 ◎深度学习框架深度学习4.1

4.1.1深度学习简介深度学习（DeepLearning）是基于人工神经网络（ArtificialNeuralNetwork,ANN）的机器学习的一个重要分支。深度学习的核心是特征学习，通过模拟生物系统中的信息处理和分布式通信节点连接方式，在网络中经过有限次的运算获取分层次的特征信息，从而解决以往需要人工设计特征的重要难题。深度学习被视为是一种更接近于人工智能（ArtificialIntelligence，AI）的机器学习方法人工智能、机器学习和深度学习三者的关系

深度学习发展历程概述1943年，WalterPitts和WarrenMcCulloch建立基于人脑神经网络的计算机模型1960年，HenryJ.Kelley开发连续反向传播模型的基础知识20世纪70年代，因资金缺乏，人工智能进入寒冬第一次发展浪潮（20世纪40年代-70年代）

深度学习发展历程概述1980年，福岛邦彦提出具有多个池和卷积层“卷积神经网络”的认知机1989年，YannLeCun第一个将卷积神经网络和反向传播相结合读取手写数字图片1985-90年代，因过于乐观地夸大人工智能“即时”潜力，人工智能第二次进入冬天第二次发展浪潮（20世纪80年代-90年代）

深度学习发展历程概述1997年，Sepp-Hochreiter和Juergen-Schmidhuber开发用于递归神经网络的长-短期记忆（LSTM）方法1999年，计算机处理数据速度加快，GPU被开发，神经网络优势显现2006年，GeoffreyHinton将多个受限玻尔兹曼机层层叠加得到深度信念网络（DBN）2009年，李菲菲推出ImageNet，含1400多万张标签图片的免费数据库2011年，YoshuaBengio提出深度稀疏整流神经网络，避免消失梯度问题2011年和2012年，AlexNet在国际图像分类比赛中获胜2014年，IanGoodfellow创建生成型对抗性神经网络（GAN），开启新应用之门2016年，谷歌DeepMind公司的AlphaGo击败世界围棋冠军李世石2019年，YoshuaBengio、GeoffreyHinton和YannLeCun获图灵奖第三次发展浪潮（20世纪90年代末-至今）

深度学习发展历程概述

深度学习的分类按输入数据是否有标签，可划分为有监督的神经网络和无监督的神经网络无监督学习算法自动编码器玻尔兹曼机深度信念网络生成式对抗网络监督学习算法从标签化训练数据集中推断出函数的机器学习任务K最近邻、感知机、决策树、逻辑斯蒂回归、支持向量机等

深度学习的实际应用技术分类定义市场产品图像处理运用深度学习网络学习自然存在于照片中的某些模式?AdobePhotoshop等语音识别通过对语音信号进行处理和分析，运用深度学习等技术将语音内容转换为文本信息的过程，即让计算机“听懂”人类语言。苹果公司Siri、小米公司小爱等机器翻译基于深度学习等技术，将一种自然语言自动转换为另一种自然语言的过程，实现不同语言之间的信息交流和传递。Google翻译、DeepL翻译等自动驾驶利用传感器（如摄像头、雷达、激光雷达等）收集车辆周围环境信息，结合深度学习等人工智能算法，让车辆能够自动感知、决策和控制，实现自主行驶的技术。特斯拉Autopilot、蔚来汽车NIOPilot?等

4.1.2深度学习框架TensorflowTensorFlow是由GoogleBrain团队开发的一个端到端的深度学习框架，支持Pytho