神经网络理论及应用实践 课件 3.4-基于BP算法的多层感知器.pptVIP

**标准BP算法要求转移函数有上述要求**梯度下降法又称最速下降法。函数J(a)在某点ak的梯度是一个向量▽J(a)，梯度方向是J(a)函数值增长最快的方向，显然，负梯度方向是J(a)函数值减少最快的方向。当误差对权值的偏导数（梯度方向）大于零时，权值调整量应为负（负梯度方向），权值向减少方向调整，使得实际输出与期望输出的差减少。当误差对权值的偏导数小于零时，权值调整量为正，权值向增大方向调整，使得实际输出与期望输出的差减少。*梯度下降法又称最速下降法。函数J(a)在某点ak的梯度是一个向量▽J(a)，梯度方向是J(a)函数值增长最快的方向，显然，负梯度方向是J(a)函数值减少最快的方向。当误差对权值的偏导数（梯度方向）大于零时，权值调整量应为负（负梯度方向），权值向减少方向调整，使得实际输出与期望输出的差减少。当误差对权值的偏导数小于零时，权值调整量为正，权值向增大方向调整，使得实际输出与期望输出的差减少。*梯度下降法又称最速下降法。函数J(a)在某点ak的梯度是一个向量▽J(a)，梯度方向是J(a)函数值增长最快的方向，显然，负梯度方向是J(a)函数值减少最快的方向。当误差对权值的偏导数（梯度方向）大于零时，权值调整量应为负（负梯度方向），权值向减少方向调整，使得实际输出与期望输出的差减少。当误差对权值的偏导数小于零时，权值调