2.2 神经网络--课件.pptxVIP

智能控制概论中国石油大学（华东）2023.9

目录CONTENTS一神经网络理论基础神经网络的结构和特点神经网络学习二三2

31.神经网络理论基础人工神经网络（ArtificialNeuralNetworks，ANNs），简称为神经网络（NNs）或称作连接模型（ConnectionistModel），以对大脑的生理角度的研究成果为基础，对动物或自然神经网络若干基本特性进行抽象和模拟。通俗地讲，神经网络是对生物神经系统功能的模拟而非结构的模拟。国际著名的神经网络研究专家Hecht—Nielsen给人工神经网络下的定义是：“人工神经网络是由人工建立的以有向图为拓扑结构的动态系统，通过对连续或断续的输入作状态响应而进行信息处理。”

41.神经网络理论基础生物神经元结构-人脑作为人类意识和思维的特殊器官，具有着复杂的高度完善的结构。现代科学证明，人的脑主要由两类细胞组成：神经细胞和神经胶质细胞。-神经细胞，又称神经元，是脑神经组织的结构和功能单位。神经元由胞体和突起构成。神经胶质细胞分布在神经元之间，没有传导冲动的功能，对神经元起着保护、营养、支持等作用。

51.神经网络理论基础生物神经元结构-人脑大约包含了1000亿个神经元，每个神经元分别与1000个其它神经元相互连接，形成精细复杂又灵活多变的神经网络，人类复杂的生理活动、语言、记忆、情感等等都要由这些神经元一一掌控。-人脑具有四个固有特性：（1）并行多层分布处理的工作模式；（2）神经系统的可塑性和自组织性；（3）神经系统的系统性；（4）信息分布式记忆。

61.神经网络理论基础生物神经元结构-神经元是神经系统结构和功能基本单位，典型的神经元结构如图所示。基本结构包括细胞体（Soma）树突（Dendrites）轴突（Axon）三部分。

71.神经网络理论基础视网膜的信息处理机制光感受器细胞将光波所携带的自然图像信息转变成神经元电信息双极细胞对自然图像信息进行空间和时间上的整合神经节细胞以动作电位方式，将信息通过细胞轴突所形成的视神经纤维向外侧膝状体传递。改变突触释放的递质量，信息向双极细胞和水平细胞传递突触囊泡受体K+Na+K+

81.神经网络理论基础人工神经元结构-神经元作为神经网络信息处理的基本单位，模拟生物神经元传递信息所具有的多输入、单输出非线性特性。-1943年McCulloch和Pitts提出了MP神经元模型。MP神经元模型模拟了生物神经元的基本结构和信息处理机制。MP神经元模型生物神经元结构

91.神经网络理论基础人工神经元结构MP神经元模型生物神经元结构输入输出关系：从其它神经元传来的输入信号；从其它神经元到该神经元的连接权值；为该神经元激活阈值；为神经元输出；为输出变换函数，一般为非线性函数，也可以称为激励函数、响应函数等。

101.神经网络理论基础人工神经元结构MP神经元模型的激发函数MP神经元模型将每一个神经元看作二进制阈值元件，其输出为“0”或“1”，分别表示“抑制”或“兴奋”两种状态，输出为(b)激励函数

111.神经网络理论基础人工神经元结构-MP神经元模型真实的模拟了生物神经元吗？（1）每个神经元都是一个多输入单输出的信息处理单元（模拟）（2）神经元输入分兴奋性输入和抑制性输入两种类型（模拟）（3）神经元具有空间整合特性和阈值特性（模拟）（4）时间整合作用（未模拟）（5）突触传递的不应期（未模拟）

121.神经网络理论基础人工神经元结构2017年3月9日，UCLA的JasonMoore在Science的文章表明：神经元中树突产生的响应是胞体产生响应的近10倍；执行的是模拟和数字的混合计算；这为构建新的神经元模型提供了生物学启发。-MP神经元模型真实的模拟了生物神经元吗？

131.神经网络理论基础人工神经元结构Dropout神经元模型允许神经元具有p的概率与下一层神经元相连。是否存在其他神经元模型模拟生物神经元？MP神经元模型带Dropout的神经元模型

141.神经网络理论基础人工神经元结构-常用的激励函数：常用的几种激励函数（1）（2）（1）饱和型函数（2）Sigmoid函数

151.神经网络理论基础人工神经元结构-常用的激励函数：（3）（4）（3）双曲正切函数（4）高斯函数

161.神经网络理论基础人工神经元结构-常用的激励函数还包括？ReLU函数:深度神经网络采用的激励函数（1）计算简单，不涉及指数