《神经网络》精品课件.pptVIP

第九章神经网络精品文档

1、人工神经网络（ArtificialNeuralNetwork，简称ANN）是指由简单计算单元组成的广泛并行互联的网络，能够模拟生物神经系统的结构和功能。2、组成神经网络的单个神经元的结构简单，功能有限，但是，由大量神经元构成的网络系统可以实现强大的功能。3、人工神经网络在模式识别、计算机视觉、智能控制、信号处理、语音识别、知识处理、机器学习、数据挖掘等领域有着广泛的应用前景。原理与概念精品文档

4、神经网络由许多基本单元构成，这些基本单元模仿了人脑的神经元。5、如果将多个基本单元以适当的方式连接起来，就构成了神经网络。基本单元之间的连接相当于人脑中神经元的连接。基本单元之间的连接方式有多种，从而形成了多种神经网络。6、神经网络可以模仿人的头脑，通过向一个训练数据集学习和应用所学知识来生成分类和预测的模式。7、在数据没有任何明显模式的情况下，这种方法很有效。精品文档

1、最早的形式化神经元数学模型是M-P模型，由美国心理学家McCulloch和数理逻辑学家Pitts合作于1943年提出。2、1949年，心理学家Hebb提出Hebb学习规则。3、1958年，计算机科学家Rosenblatt提出感知器(Perception)的概念，掀起人工神经网络研究的第一次高潮。4、1982年，美国加州工学院的生物物理学家Hopfield提出Hopfield网络模型，这标志着神经网络研究高潮的再次兴起。发展过程精品文档

1、使用神经网络模型近似多变量函数，如：2、此处，函数f(…)是未知的。Xi代表输入变量，wi代表系数。数学描述如果至少有两个变量输入为1，那么输出y的结果就是1。精品文档

人工神经元是对生物神经元的抽象与模拟。1943年，心理学家麦克洛奇（W．McMulloch）和数理逻辑学家皮茨（W．Pitts）根据生物神经元的功能和结构，提出了一个将神经元看作二进制阈值元件的简单模型，即M-P模型，如图所示。M-P神经元模型θx1x2xnyω1ω2ωn人工神经元网络模型在图中，x1，x2，…，xn表示某一神经元的n个输入；ωi表示第i个输入的连接强度，称为连接权值，正数权值表示兴奋性输入，负数权值表示抑制性输入；θ为神经元兴奋时的阈值，当神经元输入的加权和大于θ时，神经元处于兴奋状态；y为神经元的输出。可以看出，人工神经元是一个具有多输入，单输出的非线性器件。精品文档

Y=sign(0.3x1+0.3x2+0.3x3-0.4)其中：Sign(x)=ifx0-1ifx0M-P神经元模型的输入是：∑ωi*xi(i=1,2,……,n)

输出是：y=f(σ)=f(∑ωi*xi–θ)其中f称之为神经元功能函数或作用函数。精品文档

功能函数f是表示神经元输入与输出之间关系的函数，根据功能函数的不同，可以得到不同的神经元模型。常用的神经元模型有以下几种。（1）阈值型（Threshold）

σf(σ)10阈值型神经元的输入／输出特性常用的人工神经元模型阈值型神经元是一种最简单的人工神经元，也就是我们前面提到的M-P模型。这种二值型神经元，其输出状态取值1或0，分别代表神经元的兴奋和抑制状态。某一时刻，神经元的状态由功能函数f来决定。当激活值σ＞0时，即神经元输入的加权总和超过给定的阈值时，该神经元被激活，进入兴奋状态，其状态f(σ)为1；否则，当激活值σ＜0时，即神经元输入的加权总和不超过给定的阈值时，该神经元不被激活，其状态f(σ)为0。这种模型的神经元没有内部状态，作用函数f是一个阶跃函数，它表示激活值σ和其输出f(σ)之间的关系，如图所示。精品文档

（2）分段线性强饱和型（LinearSaturation）线性饱和型神经元的输入／输出特性f(σ)σ01这种模型又称为伪线性，其输入／输出之间在一定范围内满足线性关系，一直延续到输出为最大值1为止。但当达到最大值后，输出就不再增大。如图所示。（3）S型（Sibmoid）这是一种连续的神经元模型，其输出函数也是一个有最大输出值的非线性函数，其输出值是在某个范围内连续取值的，输入输出特性常用指数、对数或双曲正切等S型函数表示。它反映的是神经元的饱和特性，如图所示。σf(σ)S型神经元的输入／输出特性10精品文档

（4）子阈累积型（SubthresholdSummation）

这种类型的作用函数也是一个非线性函数，当产生的激活值超过T值时，该神经元被激活产生一个反响。在线性范围内，系统的反响是线性的，如图所示。σf(σ)T01子阈累