神经网络理论及应用实践 课件 3.6-标准BP算法的局限性与改进.pptVIP

****学习率η太大会因调整量过大而跨过较窄的“坑凹”处**BTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIEBTBU-CIE神经网络理论及应用：BP算法局限性与改进主讲人：吴静珠北京工商大学计算机与人工智能学院1、误差曲面与BP算法的局限性2、标准BP算法的改进*BTBU-CIE*BP算法的局限性与改进*BTBU-CIE*误差曲面与BP算法的局限性误差E的可调整参数个数*BTBU-CIE*误差曲面与BP算法的局限性二维权空间误差曲面*BTBU-CIE*误差曲面与BP算法的局限性二维权空间误差曲面曲面分布特点1：存在平坦区域平坦－－误差的梯度变化小－－接近于零误差梯度小，使得权重调整量小，导致训练缓慢！！*误差曲面与BP算法的局限性曲面分布特点1：存在平坦区域平坦－－误差的梯度变化小－－接近于零*BTBU-CIE节点净输入过大导致输出趋向于0或1*BTBU-CIE*误差曲面与BP算法的局限性二维权空间误差曲面曲面分布特点2：存在多个极小点单权值误差曲线多个