1.深度学习全连接神经网络应用-深度学习分类任务.pptx

深度学习全连接神经网络实战深度学习基础应用

项目目标（1）熟悉全连接神经网络和分类任务的基本概念。（2）了解分类任务与回归任务的区别。（3）了解激活函数及交叉熵函数的基本概念。（4）掌握全连接神经网络的搭建与训练流程。（5）能够应用深度学习框架搭建全连接神经网络。

深度学习分类任务二分类任务多分类任务多标签分类任务深度学习的分类任务与机器学习一样，是通过学习样本中的规律，建立一个从输入到输出的映射，其中输出值为离散值。深度学习中的分类任务中，根据类别标签可分为二分类任务、多分类任务和多标签分类任务，接下来对这3种分类任务进行了解。

深度学习分类任务二分类任务二分类任务是指具有两个类别标签的分类任务，判断一个样本是否属于某一类的问题，通常将属于某一类别的样本记为正常状态，赋予标签1；将不属于某一类别的样本记为异常状态，赋予标签0。如以判断新闻类型是否为体育新闻为目的，将新闻分为体育新闻和非体育新闻两类，则体育新闻属于正常状态的类别。？

深度学习分类任务常见的分类任务多分类任务多分类任务是指具有两个以上类别标签的分类任务，其中每个样本只能有一个标签。与二分类任务不同，多分类任务没有正常和异常状态的概念，样本被分类为属于一系列已知类别中的一个。在某些问题上，类别标签的数量的可能很大，常见的多分类问题有鸢尾花分类和手写数字识别等。鸢尾花分类手写数字识别

深度学习分类任务多标签分类任务多标签分类任务是指具有两个或多个分类标签的分类任务，其中每个样本可以预测为一个或多个分类标签。例如图像中给定多个对象，且模型可预测照片中各个已知对象，像“自行车”、“汽车”和“行人”等。用于二分类或多分类任务的分类算法不能直接用于多标签分类任务。行人自行车汽车

深度学习分类任务分类任务与回归任务的区别分类任务与回归任务的区别，主要在于需要预测的值的类型不同。分类任务的预测结果处于离散区间，预测该值属不属于或者属于哪一类，如预测一个人健康还是不健康，明天是阴天、晴天还是雨天。这种预测结果就只有有限个数的值，再把每一个值当作一个类别，所以分类任务就是预测对象所属类别的任务。回归任务的预测结果处于连续区间，如要通过一个人的饮食情况预测体重。体重的数值可以有无穷多个，有的人50Kg，有的人51Kg，在50和51之间存在无穷多个数值，这种对于连续的数值进行预测的任务就是回归任务。

全连接神经网络神经元是神经网络的基本组成单元。神经元排成一列，每一列相互连接起来，便构成神经网络。如果某一层的每一个神经元都与上一层的所有神经元相连，便是全连接神经网络。全连接神经网络

全连接神经网络全连接神经网络3层网络的作用如下。●输入层：负责接收输入数据。输入层节点的个数就是特征的数量，又称维度。●隐藏层：用于增加网络深度和复杂度。隐藏层的层数和维度是可以调整的，层数和维度越多，模型的能力越强，参数量也会增加。●输出层：负责输出神经网络的计算结果。输出层的维度是固定的，如果是回归问题，则维度量为1；如果是分类问题，则维度量为类别标签的数量。

激活函数常用的激活函数包括Sigmoid()函数、ReLU()函数和Softmax()函数。Sigmoid()函数是常见的激活函数，取值范围为(0,1)，用于隐藏层的神经元输出。它可以将一个实数x映射到(0,1)上，用来处理二分类任务。其数学公式如下。

激活函数ReLU()函数也是激活函数的一种，也能够提高神经网络的非线性表达能力。ReLU()函数的数学公式如下，其中，x为输入的数据。

激活函数Softmax()函数可以把输入处理成0～1的数值，并且能够使输出归一化，使输出值总和为1。Softmax()函数的数学公式如下。Softmax()函数的意义在于为每个输出分类的结果都赋予一个概率值，用于表示属于每个类别的可能性。因此Softmax()函数也多用于处理多分类任务中的神经网络的输出。

交叉熵损失函数使用激活函数将神经网络的输入经过非线性转化得到预测结果后，需要度量该预测结果与实际结果之间的差距。在分类任务中，常用交叉熵损失函数来度量预测结果与实际结果之间的差距。当数据的种类为N时，交叉熵损失函数C的数学公式如下，其中i表示数据的标号。

交叉熵损失函数y为期望输出，a为神经元的真实输出。交叉熵损失函数具有如下两个性质。●交叉熵损失函数的结果总为负数。●当期望输出y与真实输出a接近的时候，交叉熵损失函数的结果接近0。比如“期望输出y为0，真实输出a接近0”或“期望输出y为1，真实输出a接近1”时，交叉熵损失函数的结果都接近0。

手写数字识别数据集本项目将通过手写数字识别分类任务，来详细介绍全连接神经网络的搭建与训练