BP神经网络详解与实例.pptVIP

BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;神经元的信息传递和处理是一种电化学活动．树突由于电化学作用接受外界的刺激；通过胞体内的活动体现为轴突电位，当轴突电位达到一定的值则形成神经脉冲或动作电位；再通过轴突末梢传递给其它的神经元．从控制论的观点来看；这一过程可以看作一个多输入单输出非线性系统的动态过程 ;BP神经网络详解与实例;BP神经网络详解与实例;神经元的数学模型 ;其中x＝（x1，…xm）T 输入向量，y为输出，wi是权系数；输入与输出具有如下关系： ;BP神经网络详解与实例;BP神经网络详解与实例;BP神经网络详解与实例;基本BP网络的拓扑结构; ANN类型与功能; 一般而言, ANN与经典计???方法相比并非优越, 只有当常规方法解决不了或效果不佳时ANN方法才能显示出其优越性。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,ANN往往是最有利的工具。另一方面, ANN对处理大量原始数据而不能用规则或公式描述的问题, 表现出极大的灵活性和自适应性。;BP神经网络详解与实例;问：如果抓到三只新的蚊子，它们的触角长和翼长分别为(l.24,1.80); (l.28，1.84)；（1.40，2.04）．问它们应分别属于哪一个种类？ ;思路：作一直线将两类飞蠓分开 ;分类结果：(1.24，1.80)，(1.28，1.84)属于Af类；(1.40，2.04）属于 Apf类．;?缺陷：根据什么原则确定分类直线？ ;再如，如下的情形已经不能用分类直线的办法： ;基本BP网络的拓扑结构;BP神经网络详解与实例;假设有P个训练样本，即有P个输入输出对 （Ip, Tp）,p=1,…,P, 其中 ;;ipm= -1 , wim= (第i个神经元的阈值) （5） ;图7 多层前馈网络 ;（3）设层与层间的神经元都有信息交换（否则，可设它们之间的权重为零）；但同一层的神经元之间无信息传输．;在上述假定下网络的输入输出关系可以表示为：;定理2 对于具有多个隐层的前馈神经网络；设激发函数为S 函数；且指标函数取 ;BP神经网络详解与实例;五．应用之例：蚊子的分类 ;输入数据有15个，即 , p=1,…,15; j=1, 2; 对应15个输出。 建模：（输入层，中间层，输出层，每层的元素应取多少个？） 建立神经网络 ;规定目标为： 当t(1)=0.9 时表示属于Apf类，t(2)=0.1表示属于Af类。 设两个权重系数矩阵为： ;;;（1）随机给出两个权矩阵的初值；例如用MATLAB软件时可以用以下语句： ;;;(6) p=p+1，转（2） ;即网络模型的解为： ;BP网络建模特点： 非线性映照能力：神经网络能以任意精度逼近任何非线性连续函数。在建模过程中的许多问题正是具有高度的非线性。 并行分布处理方式：在神经网络中信息是分布储存和并行处理的，这使它具有很强的容错性和很快的处理速度。 自学习和自适应能力：神经网络在训练时，能从输入、输出的数据中提取出规律性的知识，记忆于网络的权值中，并具有泛化能力，即将这组权值应用于一般情形的能力。神经网络的学习也可以在线进行。 数据融合的能力：神经网络可以同时处理定量信息和定性信息，因此它可以利用传统的工程技术（数值运算）和人工智能技术（符号处理）。 多变量系统：神经网络的输入和输出变量的数目是任意的，对单变量系统与多变量系统提供了一种通用的描述方式，不必考虑各子系统间的解耦问题。;神经网络的应用;基本BP网络的拓扑结构;1.样本数据 1.1 收集和整理分组 采用BP神经网络方法建模的首要和前提条件是有足够多典型性好和精度高的样本。而且，为监控训练（学习）过程使之不发生“过拟合”和评价建立的网络模型的性能和泛化能力，必须将收集到的数据随机分成训练样本、检验样本（10%以上）和测试样本（10%以上）3部分。此外，数据分组时还应尽可能考虑样本模式间的平衡。;2.神经网络拓扑结构的确定 2.1 隐层数 一般认为，增加隐层数可以降低网络误差Hornik等早已证明：若输入层和输出层采用线性转换函数，隐层采用Sigmoid转换函数，则含一个隐层的MLP网络能够以任意精度逼近任何有理函数。显然，这是一个存在性结论。在设计BP网络时可参考这一点，应优先考虑3层BP网络（即有1个隐层）。一般地，靠增加隐层节点数来获得较低的误差，其训练效果要比增加隐层数更容易实现。。; 在确定隐层节点数时必须满足下列条件： 隐层节