学习驾驶汽车的人工神经网络.PPTVIP

无导师信号提供给网络，神经网络仅仅根据其输入调整连接权系数和阈值，此时，网络的学习评价标准隐含于内部。其结构见下图。这种学习方式主要完成聚类操作。 (2) 无监督学习方式 神经网络的学习方式 学习算法是人工神经网络研究的主要内容和中心环节，许多性能各异的神经网络的差异也主要体现在学习算法的不同上，同时，对于神经网络学习算法也是至今人们研究得最多的一个方面。 截止目前，人们已先后提出了误差反向传播算法(BP算法)、Hopfield算法、自适应共振理论算法(ART算法)、自组织特征映射算法(Kohonen算法)等。 仅对误差反向传播算法(Back Propagation)进行简要论述 误差反向传播算法简称BP算法，它是Werbos等人提出的一个有监督训练的多层神经网络算法。在网络学习阶段，其每一个训练范例在网络中经过两个方向的传递计算。一遍向前传播计算，从输入层开始传递至各层，经过处理后产生一个输出，由此可得到一个该实际输出与其理想输出之差的误差矢量；此后，再进行反向传播计算，即从输出层开始至输入层结束，根据误差矢量并以一定速度对各权值依次进行修正。 BP算法有很强的数学基础，扩展了神经网络的应用范围，已有许多成功的应用实例，对神经网络研究的再次兴起起过很大作用。 3.5 学习算法 BP算法的训练样本集由输入样本与理想输出对组成。对网络进行训练目的和训练结束的标志是使网络各输入样本下的实际输出与其理想输出一致(目标函数值最小)。 BP算法学习过程由正向传播和反向传播两部分组成。 在正向传播过程中，输入模式从输人层经过隐层神经元的处理后，传向输出层，每一层神经元的状态只影响下一层神经元状态。如果在输出层得不到期望的输出，则转入反向传播，此时误差信号从输出层向输入层传播并沿途调整各层间连接权值和阈值，以使误差不断减小，直到达到精度要求。该算法实际上是求误差函数的极小值，它通过多个样本的反复训练，并采用最快下降法使得权值沿着误差函数负梯度方向改变，并收敛干最小点。 网络一旦训练结束，其连接权值和节点阈值便不再变化，此时如给网络新的输入，网络只需经前向计算即能得到相应的输出。 BP网络模型 BP网络模型 以图所示的多层非循环前馈网络为例说明BP算法的工作原理。该BP网络的各层次神经元之间形成全互联连接，同层内的各神经元之间没有连接，即该网络为纯前馈网络互联结构。 （1）确定输入模式向量和理想输出向量。 （2）确定隐含层的层数和每层的单元（神经元、节点）数。 （3）给各单元的连接权值和阈值赋予（-1，+1）间的随机数。 （4）选择某个训练样本向量作为输入，进行学习，计算输出。 （5）根据实际输出与理想输出的偏差，修正各单元的连接权值和阈值。 （6）选择下一个训练样本向量作为输入，再进行学习，计算输出。 （7）重复（5）、（6）步骤，通过多个样本的反复训练，不断修正各单元的连接权值和阈值，直至网络全局误差函数小于预先设定的极小值，学习结束。 （8）应用测试样本检查模式识别的准确性。 BP算法步骤 鸢 鸢尾花 小结 人工神经网络的定义 生物神经元 人工神经网络 神经元 激发函数的常用形式 人工神经网络的典型结构 神经网络的学习方式 学习算法 BP网络模型 作业 1. 写出神经元的整合值z和输出值a(设激发函数为Sigmoid函数)。 2. 简述神经网络的有监督学习方式。 3. 用矩阵形式推导BP神经网络前向传播的过程(特别说明权值矩阵每行表示含义)。 * * * * * * 物联网数据处理第9讲 分类——人工神经网络(Artificial Neural Network) 主要内容 人工神经网络的定义 生物神经元 人工神经网络 神经元 激发函数的常用形式 人工神经网络的典型结构 神经网络的学习方式 学习算法 BP网络模型 人工神经网络应用举例 一、引例 1981年生物学家格若根（W． Grogan）和维什（W．Wirth）发现了两类蚊子(或飞蠓midges)．他们测量了这两类蚊子每个个体的翼长和触角长，数据如下： 翼长 触角长 类别 1.64 1.38 Af 1.82 1.38 Af 1.90 1.38 Af 1.70 1.40 Af 1.82 1.48 Af 1.82 1.54 Af 2.08 1.56 Af 翼长 触角长 类别 1.78 1.14 Apf 1.96 1