人工智能通识教程课件 04 人工智能技术的觉醒-深度学习技术框架 01.pptxVIP

04人工智能技术的觉醒-深度学习技术框架011

本章目标了解深度学习与机器学习的关系理解深度学习的核心了解深度学习技术框架的演变历程重点难点重点2/57

引入三者之间的关系人工智能是计算机科学的一个分支,旨在创建能够执行人类智能活动的机器。机器学习是实现人工智能的一种方法,它使计算机系统能够从数据中学习和改进。深度学习是机器学习的一个子集,它使用多层神经网络来模拟人脑的信息处理方式,特别适用于处理复杂的数据,如图像和语音。3/57

初识深度学习

深度学习的核心人脑神经网络5/57

深度学习的核心输入层隐藏层输出层整体结构特征由三层神经元组成由输入层，隐藏层和输出层三部分组成，每一层包含若干个神经元。输入层用于接收外部的数据输入，隐液层是中间处理层，可以有多层，检出层用于输出最后结果.相邻展之间的神经元相互连接神经元之间的连线代表两个神经元相互连接，每一层的神经元与下一层的神经元相连接，但是同一层内的神经元之间无连接关系。6/57

深度学习的核心7/57

深度学习的核心体育是否及格（y）跳远（x1）跳高（x2）跑步（x3）仰卧起坐（x4）跳绳（x5）拉伸（x6）总分是（1）99.5999.51056否（0单个神经元来预测体育是否及格输入x：各项体育项目成绩权重w：各项目同等重要偏置b：体育要及格总分需要达到55激活函数f：采用阶跃函数作为激活函数，当总分大于55，加权输入大于等于0，阶跃函数输出为1，否则为0.输出y：1为合格，0为不合格8/57

深度学习的核心隐藏层1隐藏层29/57

深度学习的核心函数表达式：函数表达式：10/57

深度学习的核心最常用的激活函数，计算简单且有效多分类问题中常用，输出为概率分布。在避免死神经元的同时，保持网络的激活效果，适用于深层网络较新的激活函数，表现优于ReLU。输出是零中心的，但也会遇到梯度消失问题。ELU/SELUSwishSoftmaxTanhReLU常见激活函数11/57

传统机器学习与深度学习的对比维度传统机器学习深度学习模型（函数类别）机器学习模型通常基于统计学习方法和数学方法，如逻辑回归（LR）、决策树（DT）、支持向量机（SVM）、朴素贝叶斯（NB）等，这些方法从数据中学习映射函数。深度学习模型基于层次化的神经网络结构，如卷积神经网络、循环神经网络和Transformer等，更适合处理复杂的模式识别任务。算法（拟合方法）常用的优化算法有梯度下降法、牛顿法、随机梯度下降等主要使用基于梯度的优化算法，如随机梯度下降等，依赖大量的数值计算和较高的算力采用反向传播策略策略（拟合目标）主要使用损失函数,损失函数通常较为简单，且有明确的数学形式，用于指导模型在学习过程中的优化方向，而且通常不涉及激活函数。损失函数更加多样化，可以结合不同任务、不同模型和多层网络进行设计，通常具有更复杂的优化目标。且深度学习模型每一层通常都包括一个激活函数。特征工程需要人工设计和选择特征，特征工程的好坏直接影响模型性能采用表示学习，能够自动学习和提取特征直接使用自然数据(如图像像素)，减少人工特征工程的需求12/57

深度学习的三架马车YoshuaBengio杰弗里.辛顿杨立昆2018年，计算机科学界最高荣誉-图灵奖(被誉为计算机界的诺贝尔奖)授予了三位深度学习领域的杰出学者，这三位学者因其在深度神经网络研究中的开创性贡献而获此殊荣,他们的工作使深度神经网络成为现代计算的核心技术之一，因此被誉为深度学习研究的三驾马车13/57

深度学习中的诺贝尔戴密斯·哈萨比斯约翰·江珀大卫·贝克2024年诺贝尔化学奖一半授予DavidBaker；另一半则共同授予DemisHassabis和JohnM.Jumper。德米斯·哈萨比斯和约翰·詹珀成功地利用人工智能技术预测了几乎所有已知蛋白质的结构。而大卫·贝克掌握了生命的构建模块，并创造了全新的蛋白质。14/57

小结初识深度学习生物神经元到人工神经网络的发展人工神经网络由几部分组成人工神经网络各部分的功能是什么深度学习中的三架马车是什么15/57

深度学习的发展历程

深度学习的发展历程1943-20世纪70年代20世纪80年代2006年之后至今深度学习的古猿时代深度学习的智人时代深度学习的觉醒期深度学习的蓬勃发展期17/57

深度学习的古猿时代由生物神经元到人工神经网络1943年，心里学家麦卡洛克和数学逻辑学家皮兹发表论文《神经活动中内在思想的逻辑演算》，提出了MP模型。MP模型18/57

深度学习的古猿时代hebbian学习规则1949年，DonaldHebb提出了一项开创性的理论:Hebbian学习规则。这一规则阐述了神经元之间连接强度变化的机制:当神经元A频繁地接收来自神经元B的输入信号，并因此而持续激活时，这两个神经元之间的突