9第九章神经网络.pptVIP

BP算法性能评价 优点 1．通过初始权值较小化和并行的方式解决了非线性的问题； 2．通过误差反向传播以有教师的方式训练权值； 3．具有一定推广综合能力。 1．学习速度不稳定(可适当改进)； 2．对复杂非线性问题训练出来的参数容易落入局部极小值； 3．隐层节点的选取无理论指导，一般采用成长算法(删除法、添加法)尝试； 4．BP算法本身缺乏生物学借鉴； 5. 网络的学习、记忆具有不稳定性。 缺点 0〈η〈1，表示学习率。用来控制权值的修正 隐藏层误差有输出层误差确定，是反向传播过程 再得到误差之后，要对权值修正 权重的变化在很小的范围时 BP学习原理 工作信号正向传播/前向传播 误差信号反向传播/后向传播 正向传播：当给定网络一组输入模式时，BP网络将依次对这组输入模式中的每个输入模式按如下方式进行学习：把输入模式从输入层传到隐含层单元，经隐含层单元逐层处理后，产生一个输出模式传至输出层，这一过程称为正向传播。 反向传播：如果经正向传播在输出层没有得到所期望的输出模式，则转为误差反向传播过程，即把误差信号沿原连接路径返回，并通过修改各层神经元的连接权值，使误差信号为最小。 重复正向传播和反向传播过程，直至得到所期望的输出模式为止。 Output nodes Input nodes Hidden nodes Output vector Input vector: