人工智能基础 课件 5.2 使用深度学习实现手写数字识别.pptx

第5章机器学习与深度学习

任务1：使用机器学习实现鸢尾花分类任务2：使用深度学习实现手写数字识别机器学习的概念机器学习分类机器学习的流程机器学习的应用场景深度学习概述感知机深度神经网络

2任务2：使用深度学习实现手写数字识别深度学习概述感知机深度神经网络

深度学习概述1深度学习定义深度学习（DeepLearning）是机器学习领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能。深度学习是机器学习的一种，它特指使用深度神经网络（DeepNeuralNetworks,DNNs）来学习数据的表示和提取特征的一种算法。这种算法通过构建多层网络结构，对目标进行多层表示，以期通过多层的高层次特征来表示数据的抽象语义信息，获得更好的特征鲁棒性。深度学习中的“深度”一词表示用于识别数据模式的多层算法或神经网络。

深度学习概述2机器学习、深度学习和人工智能之间的关系人工智能是一个最宽泛的概念，是一个研究领域，同时也是一个实现目标，而机器学习则是实现这一目标的一类方法，深度学习只是机器学习这一类方法中的一种。人工智能、机器学习和深度学习关系图

深度学习概述3深度学习与机器学习特征提取区别（1）机器学习机器学习通常需要人工进行特征提取，即将原始数据转换为算法可以理解的格式。这个过程需要领域知识和经验，且对于不同的数据集和任务，特征提取的方式可能不同。（2）深度学习深度学习能够自动从原始数据中提取特征，无需或仅需少量的人工干预。深度学习模型通过多层网络结构，逐步将低层次的特征抽象为高层次的特征表示，这一过程是自动完成的，且能够学习到更为复杂和抽象的特征。机器学习和深度学习特征提取区别

感知机1单层感知机及其基本原理单层感知机模型是由科学家弗兰克·罗森布拉特在1957年提出的，它的基本结构如图5-14所示，简单来说，感知机（Perceptron）就是一个由两层神经元构成的网络结构：输入层接收外界的输入信号，通过激活函数变换（阈值），把信号传送至输出层，因此它也被称为“阈值逻辑单元”；输出层（也被称为是感知机的功能层）就是M-P神经元。单层感知机基本结构左图输出y的数学表达式为：

感知机下面我们通过一个区分香蕉和西瓜的经典案例来看看感知机是如何工作的。为了简单起见，我们假设西瓜和香蕉有且仅有两个特征：形状和颜色，其他特征暂不考虑。这两个特征都是基于视觉刺激而最易得到的。假设特征x1代表输入颜色，特征x2代表形状，权重w1和w2的默认值暂且都设为1。为了进一步简化，我们把阈值θ（也称为偏置—bias）设置为0。为了标识方便，我们将感知机输出数字化，若输出为“1”，代表判定为“西瓜”；若输出为“0”，代表判定为“香蕉”。感知机学习算法

感知机为了方便机器计算，我们对颜色和形状这两个特征给予不同的值，以示区别。比如，颜色这个特征为绿色时，x取值为1，而当颜色为黄色时，x取值为-1。类似地，如果形状这个特征为圆形，x取值为1，形状为月牙形状时，x取值为-1，如下表所示。西瓜和香蕉的特征值表这样一来，可以很容易根据感知机输出y数学表达式，如下式所示，对西瓜和香蕉做出鉴定:西瓜:y=f(w1x1+w2x2-θ)=f(1×1＋1×1-0)=f(2)=1香蕉:y=f(w1x1+w2x2-θ)=f(1×(-1)+1×(-1)-0)=f(-2)=0

感知机这里，我们使用了最简单的阶跃函数作为激活函数。在阶跃函数中，输出规则非常简单：当f(x)中x0时，f(x)输出为1，否则输出为0。通过激活函数的“润滑”之后，结果就变成我们想要的样子，这样就实现了西瓜和香蕉的判定。接下来我们假定w1还是等于1，而w2等于-1，阈值θ还是等于0。然后我们对于西瓜的特征:绿色圆形通过加权求和再经过阶跃激活函数后输出如下式所示：西瓜：y=y=f(w1x1+w2x2-θ)=f(1×1+1×(-1)-0)=f(-2)=f(0)=0输出为0，而我们假设的输出值0为香蕉，显然判断错了。对于香蕉的特征我们加权求和经过阶跃激活函数得到输出值为0，对应香蕉，判断正确。由此可之，我们判断的正确与否和我们的权值w1、w2和阈值相关。那么怎么选择权值和阈值呢?事实上，我们并不能一开始就知道这几个参数的取值，而是通过一点点地“试错”(Try-Error)，而这里的“试错”其实就是感知机的学习过程。

感知机2感知机的学习过程在学习之前我们会对权重和阈值进行随机初始化，如果初始化的值能判断出是西瓜还是香蕉，则我们无需学习。但如果判断错了那么就会根据感知机的学习规则，来调整权值和阈值。学习训练过程通常包括以下几个步骤：1.初始化：随机初始化权重和偏置。2.迭代训练：对于训练数据集中的每个样本，执