2016年数模培训——人工神经网络.ppt

2.建立BP网络 （1）确定输入和输出 （2）确定网络结构（几个隐层？隐层神经元个数多少？） 为尽可能避免训练时出现“过拟合”现象，保证足够高的网络性能和泛化能力，确定隐层节点数的最基本原则是：在满足精度要求的前提下取尽可能紧凑的结构，即取尽可能少的隐层节点数。 3.设置网络参数 1）设置初始连接权值 BP算法决定了误差函数一般存在多个局部极小点，不同的网络初始权值直接决定了BP算法收敛于哪个局部极小点或是全局极小点。因此，要求计算程序必须能够自由改变网络初始连接权值. 由于Sigmoid转换函数的特性，一般要求初始权值分布在-0.5~0.5之间比较有效. 2)设置BP（改进）算法的参数 应用最广的带动量的梯度下降法或是LM算法 为避免陷入局部极小值，学习率和动量系数的选择一般要求： ——学习率通常在0.01~0.8之间； ——动量系数通常在0~1之间，而且一般比学习率要大。 4.网络训练 目的是什么？怎么实现的？ BP网络的训练就是通过应用误差反传原理不断调整网络权值使网络模型输出值与已知的训练样本输出值之间的误差平方和达到最小或小于某一期望值。 BP算法是局部优化算法，容易陷入局部极小点，找不到最优值。（梯度下降法等） 在给定有限个（训练）样本的情况下，如何设计一个合理的BP网络模型并通过向所给的有限个样本的学习（训练）来满意地逼近样本所蕴含的规律（函数关系）的问