BP神经网络课件1.pptVIP

BP神经网络;;生物神经元模型;人工神经网络模型;历史中具有重要影响的神经网络;BP神经网络概述 BP神经网络模型 BP网络学习算法 基本思想 推导过程 BP神经网络的应用实例 BP网络的局限性;1. 概述;2. BP神经网络模型;激活函数f(x) 必须处处可导 一般都使用S型函数 使用S型激活函数时BP网络输入与输出关系 输入 输出 ; ;2.1 输入/输出变量的确定; 一般认为，增加隐层数可以降低网络误差（也有文献认为不一定能有效降低），提高精度，但也使网络复杂化，从而增加了网络的训练时间和出现“过拟合”现象。 Hornik等早已证明：若输入层和输出层采用线性转换函数，隐层采用Sigmoid转换函数，则含一个隐层的MLP网络能够以任意精度逼近任何有理函数。显然，这是一个存在性结论。在设计BP网络时可参考这一点，应优先考虑3层BP网络（即有1个隐层）。 一般地，靠增加隐层节点数来获得较低的误差，其训练效果要比增加隐层数更容易实现。;2.2 隐层节点数;3. BP网络学习算法;网络结构 输入层有n个神经元，隐含层有p个神经元,输出层有q个神经元 ;输入层与中间层的连接权值: 隐含层与输出层的连接权值: 隐含层各神经元的阈值: 输出层各神经元的阈值: 样本数据个数: 激活函数: 误差函数： ;第一步：网络初始化 给各连接权值分别赋一个区间（-1，1）内的随机数，设定误差函