深度学习理论及实战（MATLAB版）课件 第2章 解析“人工神经网络”.ppt

2.2神经网络的结构及工作原理训练网络的过程，可以看作是一个调整这些参数以使得模型输出越来越接近正确值的过程。这在数学上称为最优化（Optimization），而在神经网络中称为学习。这种最优化是通过损失函数最小化来实现的，其基本思想是找到是的损失函数达到最小的最优网络参数。为了能让网络参数能够有快又好的接近最优，让网络训练快速收敛，各种形式的学习方法被用来实现参数的最优化。例如，批量梯度下降法，随机梯度下降，小批量随机梯度下降等。一般情况下，在确定神经网络的结构之后，就要对其进行训练。网络的训练就是通过改变网络中链接的权重来实现的，也就是说，神经网络的训练过程就是重新确定这些权重的过