第2章 神经网络.pptVIP

3.反向误差传播 比较预期输出和实际输出，计算输出层误差。 Tj——输出单元j的预期输出 将得到的误差从后向前传播，前一层单元j的误差通过和它连接的后一层所有单元k的误差计算得到。 4.网络权值与神经元偏置调整 可以一边后向传播误差，一边调整网络权重和神经元的阈值，也可以先计算得到所有神经元的误差，再统一调整网络权重和神经元阈值。 调整权重：从输入层与第一隐含层的连接权重开始，依次向后进行调整。 l——学习率，通常取0~1之间的常数。太大会导致学习慢，太小会导致算法在不适当的解之间振动。一般将学习率设为迭代次数t的倒数，即1/t。 4.网络权值与神经元偏置调整 调整偏置：对每个神经元j进行如下更新： l——学习率，通常取0~1之间的常数。太大会导致学习慢，太小会导致算法在不适当的解之间振动。一般将学习率设为迭代次数t的倒数，即1/t。 5.判断结束 对每个样本，若最终输出误差小于可接受范围，或迭代次数到一定的阈值，则选取下一样本，转步骤2继续执行； 否则迭代次数加1，转步骤2继续使用当前样本训练。 2.4.3 应用举例 例2.1 已知一个前馈型神经网络例子如下图所示。设学习率l为0.9，当前的训练样本为x={1,0,1}，而且预期分类标号为1，同时，下表给出了当前该网络的各个连接权值和神经元偏置。求该网络在当前训练样本下的训练过程 。