人工神经网络的基本原理模型与实例.pptxVIP

第8章人工神经网络方法本讲大纲：人工神经网络的基本概念误差反向传播(BP)神经网络8.1人工神经网络的基本概念 从数学和物理方法以及信息处理的角度，对人脑神经网络进行抽象，并建立某种简化模型，称为人工神经网络。应用领域：模式识别系统辨识预测预估数据挖掘经济学……8.1人工神经网络的基本概念 人工神经网络在本质上是由许多小的非线性函数组成的大的非线性函数，反映的是输入变量到输出变量间的复杂映射关系。先给出单个人工神经网络的一般模型描述：w1w1x1?y=f (·)8.1人工神经网络的基本概念净输入：w1x1输出：?x1先来看一个单一输入的神经元模型输入变量：x1连接权重：w1激活函数：f (·)8.1人工神经网络的基本概念???神经元模型的传递函数f (·)一般采用sigmoid函数或双曲函数，给出表达式如下：或当神经元的加权输入和大于激发阈值时，神经元处于激发态，网络的输出为正，否则为抑制态，输出为负。8.1人工神经网络的基本概念?单极sigmoid函数8.1人工神经网络的基本概念?双曲函数w1w1x1-θy=?f (·)8.1人工神经网络的基本概念激活阈值：θ净输入：w1x1-θ输出：?小练习：请你算一算，当初始输入、权重和激活阈值为如下数值时，该神经元的净输入和输出分别是多少？?-1x1w1θ10.20.4x1增加激活阈值后的神经元模型输入变量：x1连接权重：w1激活函数：f (·)w1w1x1+w2x2-θy=?f (·)8.1人工神经网络的基本概念激活阈值：θ净输入：w1x1+w2x2-θ输出：?x2w2小练习：请你算一算，当初始输入、权重和激活阈值为如下数值时，该神经元的净输入和输出分别是多少？?-1x1x2w1w2θ100.20.40.4x1当输入增加时的神经元模型输入变量：x1， x2连接权重：w1，w2激活函数：f (·)?w1w2x2??y=f (·)............wmxm8.1人工神经网络的基本概念-1?其中x1~ xm这m个变量是与此神经元连接的上一层神经元的输出，或者为网络的原始输入变量。在实际操作中，可以将-1看作此神经元的第m+1个输入，把激发阈值变量作为相应的权值变量。x1?给定n个输入变量：x1,x2,······,xn以及相对应的权值变量w1,w2,······,wn，一个传递函数f (·)，激发阈值变量，输出变量为y，有如下神经元模型：......x1y1∑ f∑ f∑ f............y2x2∑ f∑ f∑ f..........................................ynxm8.1人工神经网络的基本概念-1-1-1-1∑ f∑ f∑ f输出层输入层隐 藏 层当多个神经元组合起来时，人工神经网络的总体结构如下：w1w1x1+w2x2-θy=?f (·)8.1人工神经网络的基本概念激活阈值：θ净输入：w1x1+w2x2-θ输出：?x2w2小练习：请你算一算，当初始输入、权重和激活阈值为如下数值时，该神经元的净输入和输出分别是多少？?-1x1x2w1w2θ100.20.40.4x1当层数增加时的神经元模型输入变量：x1， x2连接权重：w1，w2激活函数：f (·)8.1人工神经网络的基本概念x11w14w154θ4w46w24x226θ6w25θ55w56w34初始输入、权重和偏倚值x33w35x1x2x3w14w15w24w25w34w35w46w56θ4θ5θ61010.2-0.30.40.1-0.50.2-0.3-0.20.4-0.2-0.1小练习：请你算一算，各节点的净输入和净输出分别是多少？8.1人工神经网络的基本概念-0.70.332x11w14-0.105w1540.474θ4w460.10.525w24x226θ6w25θ55w56w34净输入和输出的计算x33w35单元 j净输入 Ij净输出 Oj40.2+0-0.5-0.4=-0.75-0.3+0+0.2+0.2=0.11/(1+e0.7)=0.3321/(1+e-0.1)=0.5256-(0.3)(0.332)-(0.2)(0.525)+0.1=-0.1051/(1+e0.105)=0.4748.1人工神经网络的基本概念思考： 如果想要让神经网络的期望输出尽可能接近“1”这个数值，请问应该调整网络的哪些参数？8.1人工神经网络的基本概念x11w14w154θ4w46w24x226θ6w25θ55w56w34初始输入、权重和偏倚值x33w35x1x2x3w14w15w24w25w34w35w46w56θ4θ5θ61010.192-0.3060.40.1-0.5080.194-0.261-0.1380.408-0.194-0.218小练习：若将各权值与阈值换成以上各值，各节点