神经网络建模.pptVIP

带动力的梯度下降(LEARDGDM) 批处理训练方式 批处理梯度下降法(TRAINGD)  带动量的批处理梯度下降法（ 批处理训练方式 TRAINGDM） 第三十页，共四十七页，2022年，8月28日 例1、蠓虫分类问题 1、蠓虫分类问题 生物学家试图对两种蠓虫（Af与Apf）进行鉴别，依据的 资料是触角和翅膀的长度，已经测得了9支Af和6支Apf的数 据如下： Af: (1.24,1.27)，(1.36,1.74)， (1.38,1.64)，(1.38,1.82)，(1.38,1.90)，(1.40,1.70)，(1.48,1.82)，(1.54,1.82)，(1.56,2.08)； Apf: (1.14,1.82)，(1.18,1.96)，(1.20,1.86)，(1.26,2.00)，(1.28,2.00)，(1.30,1.96). （i）根据如上资料，如何制定一种方法，正确地区分两类蠓虫。 （ii）对触角和翼长分别为(1.24,1.80)，(1.28,1.84)与(1.40,2.04)的3个标本，用所得到的方法加以识别。 （iii）设Af是宝贵的传粉益虫，Apf是某疾病的载体，是否应该修改分类方法。 第三十一页，共四十七页，2022年，8月28日 问题分析：要求依据已知资料（9支Af的数据和6支Apf的数据）制定一种分类方法，类别是已经给定的（Af或Apf）。我们将9支Af及6支Apf的数据集合称之为学习样本。2 多层前馈网络为解决此问题，考虑一个其结构如下图所示的人工神经网络 输入层 输出层 中间层 （隐层） 第三十二页，共四十七页，2022年，8月28日 以s = 1,2,?,15，分别表示学习样本中的15个样品，对样品s而言，对任何一组确定的输入I_k^s(k=1,2)隐单元j 的输入是相应的输出状态是网络的最终输出是 第三十三页，共四十七页，2022年，8月28日 第一页，共四十七页，2022年，8月28日 1、神经网络简介 人工神经网络是在现代神经科学的基础上发展起来的，旨在模拟人脑结构以及功能的一种抽象的数学模型,其中Hopfield神经网络、ART神经网络、BP神经网络是常用的网络。 Hopfield神经网络是由相同的神经元构成的单元，是一类不具有学习能力的单层自联想网络，她的网络模型由一组可使某一个能量函数最小的微分方程组成。 ART神经网络主要用于模式识别，她的不足之处在于对转换、失真和规模变化较敏感 BP神经网络是误差反向传播的多层前向网络,其信息处理机制由神经元激活特性和网络拓扑结构决定,神经元的传递函数是非线性函数,网络结构由输入层、隐含层、输出层组成,同层节点间无关联 ,异层节点前向连接。 第二页，共四十七页，2022年，8月28日 1.1、人工神经元模型 人工神经网络的基本单元的神经元模型 第三页，共四十七页，2022年，8月28日 人工神经元的三个要素 第四页，共四十七页，2022年，8月28日 1.2激活（传递）函数的取法 在Matlab工具箱里包括了许多激活（传递）函数。在“Transfer Function Graphs”中可以找到它们的完全列表 函数名 功 能 purelin 线性传递函数 hardlim 硬限幅递函数 hardlims 对称硬限幅递函数 satli 饱和线性传递函数 satlins 对称饱和线性传递函数 logsig 对数S 形传递函数 tansig 正切S 形传递函数 radbas 径向基传递函数 compet 竞争层传递函数 第五页，共四十七页，2022年，8月28日 第六页，共四十七页，2022年，8月28日 1.3、网络结构以及工作方式 从连接方式看NN主要有两种网络拓扑结构： 前馈型网络：结点分为输入单元和计算单元 反馈型网络：所有结点都是计算单元 NN的工作过程主要分为两个阶段： 第一阶段：学习期，此时个计算单元状态不变，各连线上的权值可通过学习来修改 第二阶段：工作期，此时各连接权值固定，计算各单元状态变化 第七页，共四十七页，2022年，8月28日 网络结构：前馈型神经网络 两个或更多的上面所示的神经元可以组合成一层，一个典型的网络可包括一层或者多层。我们首先来研究神经元层。 单层神经元网络 有R输入元素和S个神经元组成的单层网络如下图所示 n{1}=net.IW{1,1}*p+net.b{1} 第八页，共四十七页，2022