人工智能技术应用导论（第2版）课件 第五章 神经网络及其基础算法应用.pptx

神经网络简介

前馈型神经网络

反馈型神经网络

目录

循环神经网络

卷积神经网络

01

神经网络简介

PARTONE

5.1神经网络简介

生物神经元

由细胞体、树突、轴突和突触（Synapse，又称神经键）组成。树突起感受作用，接收来自其他神经元的传递信号。轴突只有一条，轴突给其他多个神经元传递信息，这个连接的位置叫做“突触”。

5.1神经网络简介

人工神经元模型

人工神经元模型是一个模拟生物神经元，包含输入，输出与计算功能的模型。输入可以类比为生物神经元的树突，而输出可以类比为生物神经元的突触，计算则可以类比为生物神经元的细胞体。

5.1神经网络简介

人工神经元模型

一个典型的人工神经元模型：

+1代表偏移值（偏置项,BiasUnits）；

X1,X2,...Xn代表初始特征；

W0,W1,W2,...，Wn代表权重（Weight），即特征的缩放倍数；

特征经过缩放和偏移后全部累加起来，此后还要经过一次激活运算然后再输出。图中的箭头线称为“连接”，每个“连接”上有一个“权值”。

5.1神经网络简介

人工神经元模型

如判断某个同学某门课是否合格（二分类问题），要根据该同学的平时、期中及期末成绩综合评定。

假如该门课平时成绩90分，期中成绩75分，期末成绩85分，如果总评成绩的构成是：

总成绩=平时*20%+期中*30%+期末*50%的话，

那么x1=90,w1=0.2；x2=75,w2=0.3；x3=85,w3=0.5；

则：总评成绩=x1*w1+x2*w2+x3*w3=90*0.2+75*0.3+85*0.5=83；

然后把总评成绩83交给激活函数判定，如果规定高于60分为合格，那么激活函数则判定该名同学成绩合格。

偏置项可以理解为此次试卷太难，老师决定给每位同学送5分。

5.1神经网络简介

人工神经元模型

人工神经元相当于一个多输入单输出的非线性阈值器件。

如果输入信号的加权和超过阈值，则人工神经元被激活。阈值一般不是一个常数，它随着神经元的兴奋程度而变化。

神经元的计算过程称为激活（Activation），是指一个神经元读入特征，执行计算，并产生输出的过程。

激活函数（ActivationFunction）一般是非线性函数，用于为人工神经元网络模型加入非线性变换特征，使其能够处理复杂的非线性分类任务。

5.1神经网络简介

人工神经元模型

常用的激活函数有逻辑函数（Sigmoid），其他还有双曲正切函数（Tanh）、线性整流函数（RectifiedLinearUnit，ReLU）等。

5.1神经网络简介

人工神经元模型

5.1神经网络简介

人工神经元模型

5.1神经网络简介

人工神经元的特点：

神经元是一多输入、单输出元件；

具有非线性的输入、输出特性；

具有可塑性，其塑性变化的部分主要是权值的变化；

神经元的输出响应是各个输入值的综合作用结果；

输入分为兴奋型（正值）和抑制型（负值）两种。

5.1神经网络简介

人工神经元网络

人工神经元网络（ArtificialNeuralNetwork，ANN），简称人工神经网络或神经网络，它从信息处理角度通过对人脑神经元及其网络进行模拟、简化和抽象，按照不同的连接方式组成不同的网络，建立某种运算模型。

神经网络中，神经元处理单元可表示不同的对象，例如特征、字母、概念，或者一些有意义的抽象模式，输出则依据神经元的连接方式、权重值和激活函数的不同而不同。

5.1神经网络简介

人工神经元网络

一个经典的神经网络：

最左边的层称为输入层（InputLayer），对应样本特征；

最右边的层称为输出层（OutputLayer），对应输出结果；

中间层是零到多层的隐藏层（HiddenLayer,也称为隐层），负责模型的计算。

5.1神经网络简介

人工神经元网络

一个经典的神经网络：

5.1神经网络简介

人工神经元网络

输入层节点（神经元）接受外部世界的信号或数据，对应样本的特征输入，每一个节点表示样本的特征向量x中的一个特征变量或特征项；

输出层节点对应样本的预测输出，每一个节点表示样本在不同类别下的预测概率，实现系统处理结果的输出；

隐藏层节点处在输入层和输出层单元之间，是不能由系统外部观察的单元，其对应中间的激活计算，称为隐藏单元（HiddenUnit）。在神经网络中，隐藏单元的作用可以理解为对输入层的特征进行变换，并将其层层传递到输出层进行结果预测。

5.1神经网络简介

人工神经元网络

一个神经网络的搭建，需要满足三个条件：输入和输出，权重和阈值，及多层网络结构。其中，最困难的部分就是确定权重和阈值。但现实中，可以采用试错法来确定权重和阈值。其具体方法是保持其他参数不变，轻微地改变权值（或阈值）的值，然后观察输出有什么变化；不断重