MATLAB神经网络工具箱中的神经网络模型讲课文档.pptVIP

权值矩阵向量W(t) 标量元素 ,i为行,j为列,t为时间或迭代函数 列向量 行向量 第三十页，编辑于星期五：十三点 二十二分。 阈值向量b(t) 标量元素 ,i为行,t为时间或迭代函数 第三十一页，编辑于星期五：十三点 二十二分。 网络层符号 加权和: ,m为第m个网络层, 为第 个神经元,n为加权和 网络层输出: , m为第m个网络层, 为第 个神经元,a为输出 输入层权值矩阵 ,网络层权值矩阵 ,其中,上标k,l表示第l个网络层到第k个网络层的连接权值矩阵向量 第三十二页，编辑于星期五：十三点 二十二分。 例: 表示输入向量的第R个输入元素到输入层的第 个神经元的连接权. 表示…… 表示… 第i个网络层的第 个神经元的阈值 第三十三页，编辑于星期五：十三点 二十二分。 例: 第三十四页，编辑于星期五：十三点 二十二分。 n1为第一层神经元的中间运算结果,即连接权向量与阈值向量的加权和,大小为 ,即 a1为第一层神经元的输出向量,大小为 , 第三十五页，编辑于星期五：十三点 二十二分。 神经网络的层数为神经元网络层的数目加1,即隐层数目加1. 第三十六页，编辑于星期五：十三点 二十二分。 多层神经网络结构 第三十七页，编辑于星期五：十三点 二十二分。 第一页，编辑于星期五：十三点 二十二分。 神经网络工具箱简介 MATLAB 7对应的神经网络工具箱的版本为它以神经网络理论为基础,利用MATLAB脚本语言构造出典型神经网络的激活函数,如线性、竞争性和饱和线性等激活函数，使设计者对所选定网络输出的计算变成对激活函数的调用。 还可根据各种典型的修正网络权值规则，加上网络的训练过程，利用MATLAB编写出各种网络设计和训练的子程序，用户根据自己的需要去调用。 第二页，编辑于星期五：十三点 二十二分。 神经网络工具箱的主要应用 函数逼近和模型拟合 信息处理和预测 神经网络控制 故障诊断 第三页，编辑于星期五：十三点 二十二分。 应用神经网络工具箱求解问题的一般过程 确定信息表达方式 数据样本已知 数据样本之间相互关系不确定 输入/输出模式为连续的或者离散的 输入数据按照模式进行分类，模式可能会具有平移、旋转或伸缩等变化形式 数据样本的预处理 将数据样本分为训练样本和测试样本 确定网络模型 选择模型的类型和结构，也可对原网络进行变形和扩充 网络参数的选择 确定输入输出神经元数目 训练模型的确定 选择合理的训练算法，确定合适的训练步数，指定适当的训练目标误差 网络测试 选择合适的测试样本 第四页，编辑于星期五：十三点 二十二分。 人工神经元的一般模型 神经元模型及其简化模型如图所示，输入向量 、权值矩阵 ，与阈值的加权和（内积运算）送入累加器，形成净输入，即： 第五页，编辑于星期五：十三点 二十二分。 人工神经元模型 图中，xi(i＝1，2，…，n)为加于输入端(突触)上的输入信号；ωi为相应的突触连接权系数，它是模拟突触传递强度的—个比例系数, ∑表示突触后信号的空间累加；θ表示神经元的阈值，σ表示神经元的响应函数。该模型的数学表达式为： 第六页，编辑于星期五：十三点 二十二分。 与生物神经元的区别: (1)生物神经元传递的信息是脉冲，而上述模型传递的信息是模拟电压。 (2)由于在上述模型中用一个等效的模拟电压来模拟生物神经元的脉冲密度，所以在模型中只有空间累加而没有时间累加(可以认为时间累加已隐含在等效的模拟电压之中)。 (3)上述模型未考虑时延、不应期和疲劳等。 第七页，编辑于星期五：十三点 二十二分。 响应函数 的基本作用： 1、控制输入对输出的激活作用； 2、对输入、输出进行函数转换； 3、将可能无限域的输入变换成指定的有限范围内的输出。 第八页，编辑于星期五：十三点 二十二分。 根据响应函数的不同，人工神经元有以下几种类型： 第九页，编辑于星期五：十三点 二十二分。 阈值单元 响应函数如图a所示, 第十页，编辑于星期五：十三点 二十二分。 线性单元 其响应函数如图b所示 第十一页，编辑于星期五：十三点 二十二分。 非线性单元 常用响应函数为S型(Sigmoid)函数，如图c、d所示 第十二页，编辑于星期五：十三点 二十二分。 Hardlim x=0 y=1;x0 y=0 Hardlims:x=0 y=1; x0 y=-1 Purelin :