数据挖掘算法介绍-后向传播.docxVIP

后向传播 “后向传播如何工作？” 后向传播通过迭代地处理一组训练样本， 将每个样本的网络预 测与实际知道的类标号比较，进行学习。 对于每个训练样本， 修改权， 使得网络预测和实际 类之间的均方误差最小。这种修改“后向”进行，即由输出层，经每个隐藏层，到第一个隐 藏层（因此称作后向传播） 。尽管不能保证，一般地，权将最终收敛，学习过程停止。算法 在图 7.8 中给出。 算法：后向传播。 使用后向传播的神经网络分类学习。 输入： 训练样本 samples，学习率 l ，多层前馈神经网络 network 。 输出： 一个训练的、对样本分类的神经网络。 方法： 1） 初始化 network 的权和偏置。 2） while 终止条件不满足 { 3） for samples 中的每个训练样本 X{ 4） 5）  //向前传播输入 for 隐藏或输出层每个单元  j{ 6）  I  j  i  wij Oi  j ； //相对于前一层  i，计算单元  j 的净输入 7）  O j  1 (1  e I j ) ； }// 计算每个单元  j 的输出 8） 9）  //后向传播误差 for 输出层每个单元  j 10） Err j O j (1 O j )(Tj O j ) ； //计算误差 11） for 由最后一个到第一个隐藏层，对于隐藏层每个单元 j