ch典型神经网络.pptxVIP

ch典型神经网络会计学第1页/共62页BP网络 是一种单向传播的多层前向网络，其神经元的变换函数是S型函数，因此输出量为0到1之间的连续量，它可以实现从输入到输出的任意的非线性映射。 由于其权值的调整采用反向传播（Backpropagation）的学习算法，因此被称为BP网络，思想是梯度下降法，通过梯度搜索技术，使网络实际输出值与期望输出值的误差均方值最小。 反向传播网络(Back—Propagation Network，简称BP网络)是对非线性可微分函数进行权值训练的多层网络。 7.2.1 BP网络特点第2页/共62页是多层网络，包括输入层、隐层和输出层层与层之间采用全互连方式，同一层神经元之间不连接权值通过学习算法进行调节神经元激发函数为S函数层与层的连接是单向的，信息传播是双向的7.2.2 BP网络结构 第3页/共62页输 入输 出输出层输入层隐层BP神经网络模型结构 第4页/共62页BP网络是一种多层前向神经网络一般分三层：输入层，隐层，输出层，也可以有2层或更多个隐层。层与层之间采用全互联方式，同一层单元之间不存在相互连接。x1y1x2…………yp……xn第5页/共62页1）输入层单元无转换函数，直接接收信号传给下一层，所以有些书不认为输入层是一个网络层。2）只有当希望对网络的输出进行限制，如限制在0和1之间，那么在输出层应当包含 S 型激活函数，在一般情况下，均是在隐含层采用 S 型激活函数，而输出层采用线性激活函数。7.2.3 Bp网络的逼近第6页/共62页用于逼近的BP网络第7页/共62页第8页/共62页前向传播：计算网络输出隐层输出采用S函数输出层输出第9页/共62页反向传播：采用δ学习算法调整各层间权值 梯度下降法第10页/共62页第11页/共62页BP网络逼近仿真第12页/共62页第13页/共62页第14页/共62页 初始化 加输入和期望输出计算隐层和输出层的输出调节输出层和隐层的连接权值 改变训练样板No训练样终止？y迭代次数加1No迭代终止？yBP算法的基本流程第15页/共62页小结：一、结构特点 1. BP网络具有一层或多层隐含层，与其他网络模型除了结构不同外，主要差别表现在激活函数上。 2. BP网络的激活函数必须是处处可微的，所以它就不能采用二值型的阀值函数{0，1}或符号函数{—1，1}，BP网络经常使用的是S型的对数或正切激活函数和线性函数。 3.只有当希望对网络的输出进行限制，如限制在0和1之间，那么在输出层应当包含S型激活函数，在一般情况下，均是在隐含层采用S型激活函数，而输出层采用线性激活函数。 第16页/共62页4、输入和输出是并行的模拟量；5、网络的输入输出关系是各层连接的权因子决定，没有固定的算法；6、权因子是通过学习信号调节的，这样学习越多，网络越聪明；7、隐含层越多，网络输出精度越高，且个别权因子的损坏不会对网络输出产生大的影响7.2.6 BP网络模式识别第17页/共62页一、由于神经网络具有自学习、自组织和并行处理等特征，并具有很强的容错能力和联想能力，因此，神经网络具有模式识别能力。在神经网络识别中，根据标准的输入输出模式对，采用神经网络学习算法，以标准的模式作为学习样本进行训练，通过学习调整神经网络的连接权值。当训练满足要求后，得到知识库，利用神经网络并行推理算法便可对所需的输入模式进行识别。7.2.7、BP学习规则 第18页/共62页BP算法属于δ算法，是一种监督式的学习算法。 其主要思想为：对于q个输入学习样本：P1，P2，……Pq，已知与其对应的输出样本为：T1，T2，……Tq。学习的目的是用网络的实际输出A1，A2，……Aq，与目标矢量T1，T2，……Tq，之间的误差来修改其权值，使Al，(l＝l，2…，q)与期望的Tl尽可能地接近；即：使网络输出层的误差平方和达到最小。 第19页/共62页感知机网络利用输出误差只能修改最后一层的权值而BP网络实现了多层学习，每一层的权值均可训练学习修改。BP算法学习过程由两部分组成：信息的前向传播与误差的后向传播。第20页/共62页 BP算法是由两部分组成：信息的正向传递与误差的反向传播。 在正向传播过程中，输入信息从输入经隐含层逐层计算传向输出层，每一层神经元的状态只影响下一层神经元的状态。 如果在输出层没有得到期望的输出，则计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望目标。 7.2.8、BP网络的训练过程 第21页/共62页 为了训练一个BP网络，需要计算网络加权输入矢量以及网络输出和误差矢量，然后求得误差平方和。 当所训练矢量的误差平方和小于误差目标，训练则停止，否则在输出层计算误差变化，且采用反向传