人工神经网络学习.pptxVIP

人工神经网络学习;人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型， 由大量的神经元之间相互联接构成，每两个神经元间的连接都代表一个对于通过该连接信号的加权值;反向传播算法，使用梯度下降来调节网络参数以最佳拟合由输入-输出对组成的训练集合 先用样本数据训练神经网络时，它自动地将输出值与期望值进行比较，得到误差信号，再根据误差信号，从后向前调节各神经网络层神经元之间的连接强度，然后再进行运算，使误差减小，再将新的输出值与期望值进行比较，得到新的比先前小的误差信号，再根据较小的误差信号，从后向前重新调节各神经网络层神经元之间的连接强度，依此不断地多次进行，直到误差满足要求为止;感知器;;感知器的表征能力;delta法则;指定一个度量标准来衡量假设相对于训练样例的训练误差 其中，D是训练样例集合， 是训练样例d 的目标输出， 是线性单元对训练样例d的输出 经贝叶斯论证，对于给定的训练数据使E最小化的假设也就是H中最可能的假设 梯度下降搜索从一个任意的初始权向量开始，然后沿误差曲面最陡峭下降的方向，以很小的步伐反复修改这个向量，直到得到全局的最小误差点 ;梯度下降法则的推导 如何发现沿误差曲面最陡峭下降的方向？ 通过计算E相对向量 的每个分量的导数，这个向量导数被称为E对于 的梯度，记作 当梯度被解释为权空间的一个