反向传播神经网络幻灯片.pptVIP

trainbpm.m可以训练一层直至三层的带有附加动量因子的反向传播网络。 下面是对单层网络使用函数trainbpm.m的情形： [W，B，epochs，errors]＝trainbpm(W，B，’F’，P，T，TP)； 6．6．2 误差函数的改进 包穆(Baum)等人于1988年提出一种误差函数为： 不会产生不能完全训练的麻痹现象。 6．6．3 自适应学习速率 通常调节学习速率的准则是：检查权值的修正值是否真正降低了误差函数，如果确实如此，则说明所选取的学习速率值小了，可以对其增加一个量；若不是这样，而产生了过调，那么就应该减小学习速率的值。下式给出了一种自适应学习速率的调整公式： MATLAB工具箱中带有自适应学习速率进行反向传播训练的函数为：trainbpa.m。它可以训练直至三层网络。使用方法为： [W，B，epochs，TE]＝trainbpa(W，B，’F’，P，T，TP) 可以将动量法和自适应学习速率结合起来以利用两方面的优点。这个技术已编入了函数trainbpx.m之中。这个函数的调用和其他函数一样，只是需要更多的初始参数而已： TP＝[disp_freq max_epoch error_goal lr 1r_inc 1r_dec mom_const err_ratio]； [W，B，epochs，[error; lr]]＝trainb