计算智能概论论文.docVIP

计算智能概论 学院： 理学院 班级： 应用物理1202　 　 姓名： 汪云龙 学号：　 201221020202 作业一 简要介绍BP神经网络 一、BP神经网络的提出； 在人工神经网络发展历史中，很长一段时间里没有找到隐层的连接权值调整问题的有效算法。直到误差反向传播算法（BP算法）的提出，成功地解决了求解非线性连续函数的多层前馈神经网络权重调整问题。 BP网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)。（如图5.2） BP神经网络的基本算法； BP (Back Propagation)神经网络，即误差反传误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。具体步骤如下； 1、从训练集中取出某一样本，把信息输入网络中。 2、通过各节点间的连接情况正向逐层处理后，得到神经网络的实际输出。 3、计算网络实际输出与期望输出的误差。 4、将误差逐层反向回传至之前各层，并按一定原则将误差信号加载到连接权值上，使整个神经网络的连接权值向误差减小的方向转化。 5、対训练集中每一个输入—输出样本对重复以上步骤，直到整个训练样本集的误差减小到符合要求为止。 BP神经网络模型BP网络模型包括其输入输出模型、作用函数模型、误差计算模型和自学习模型。 　　 节点输出模型 　　 隐节点输出模型：Oj=f(∑Wij×Xi-qj) (1) 　　 输出节点输出模型：Yk=f(∑Tjk×Oj-qk) (2) 　　f-非线形作用函数；q -神经单元阈值。 　 （2）作用函数模型 　 作用函数是反映下层输入对上层节点刺激脉冲强度的函数又称刺激函数，一般取为(0,1)内连续取值Sigmoid函数： f(x)=1/(1+e) （3） 　　 误差计算模型 　　 误差计算模型是反映神经网络期望输出与计算输出之间误差大小的函数： 　　Ep=1/2×∑(tpi-Opi) (4) 　　tpi- i节点的期望输出值；Opi-i节点计算输出值。 　　 自学习模型 　　 神经网络的学习过程，即连接下层节点和上层节点之间的权重拒阵Wij的设定和误差修正过程。BP网络有师学习方式-需要设定期望值和无师学习方式-只需输入模式之分。自学习模型为　△Wij(n+1)= h ×Фi×Oj+a×△Wij(n) （5） 　　h -学习因子；Фi-输出节点i的计算误差；Oj-输出节点j的计算输出；a-动量因子。 三、BP神经网络的优缺点； 1、BP神经网络的优点： 1) 非线性映射能力：BP神经网络实质上实现了一个从输入到输出的映射功能，数学理论证明三层的神经网络就能够以任意精度逼近任何非线性连续函数。这使得其特别适合于求解内部机制复杂的问题，即BP神经网络具有较强的非线性映射能力。 2) 自学习和自适应能力：BP神经网络在训练时，能够通过学习自动提取输出、输出数据间的“合理规则”，并自适应的将学习内容记忆于网络的权值中。即BP神经网络具有高度自学习和自适应的能力。 3) 泛化能力：所谓泛化能力是指在设计模式分类器时，即要考虑网络在保证对所需分类对象进行正确分类，还要关心网络在经过训练后，能否对未见过的模式或有噪声污染的模式，进行正确的分类。也即BP神经网络具有将学习成果应用于新知识的能力。 4) 容错能力：BP神经网