终版Matlab神经网络工具箱.pptVIP

BP网络的标准学习算法-学习过程 正向传播： 输入样本－－－输入层－－－各隐层－－－输出层 判断是否转入反向传播阶段： 若输出层的实际输出与期望的输出（导师信号）不符 误差反传 误差以某种形式在各层表示－－－－修正各层单元的权值 网络输出的误差减少到可接受的程度 进行到预先设定的学习次数为止 演示课件 径向基函数网络RBF 径向基函数网络：只有一个隐层，隐层单元采用径向基函数。隐层把原始的非线性可分的特征空间变换到另一个空间（通常是高维空间），使之可以线性可分。 输出为隐层的线性加权求和。采用基函数的加权和来实现对函数的逼近。 径向基函数(radial basis function, RBF)：径向对称的标量函数k(||x-xc||)，最常用的RBF是高斯核函数 演示课件 径向基函数网络结构 演示课件 MATLAB神经网络工具箱 演示课件 神经元模型 Neuron Model： 多输入，单输出，带偏置 输入:R维列向量 权值:R维行向量 阈值:标量 求和单元 传递函数 输出 演示课件 常用传递函数 a Wp -b 1 -1 阈值函数 MATLAB函数: hardlim MATLAB函数: hardlims 演示课件 线性函数 Purelin Transfer Function ： a n MATLAB函数: purelin 演示课件 Sigmoid函数 Sigmoid Function ： 特性： 值域a∈(0,1) 非线性，单调性 无限次可微 |n|较小时可近似线性函数 |n|较大时可近似阈值函数 MATLAB函数: logsig(对数), tansig(正切) 对数Sigmoid函数 正切Sigmoid函数 演示课件 单层神经网络模型 R维输入, S个神经元的单层神经网络模型 演示课件 多层神经网络模型 演示课件 多层神经网络简化表示 演示课件 前馈神经网络 前馈神经网络(feed forward NN)：各神经元接受前级输入，并输出到下一级，无反馈，可用一有向无环图表示。 前馈网络通常分为不同的层(layer)，第i层的输入只与第i-1层的输出联结。 可见层：输入层(input layer)和输出层(output layer) 隐藏层(hidden layer) ：中间层 演示课件 感知器(perceptron): 单层前馈网络 传递函数为阈值函数 主要功能是模式分类 演示课件 演示课件 MATLAB神经网络工具箱 演示课件 人工神经网络的特点 演示课件 人工神经网络的应用 ANN本质上可以理解为函数逼近，可以应用到众多领域。 演示课件 生物神经元 生物神经网络：Biological Neural Network (BNN) 神经元：neuron 神经元经突触传递信号给其他神经元（胞体或树突） 1011个神经元/人脑 104个连接/神经元 演示课件 神经元 演示课件 一般而言, ANN与经典计算方法相比并非优越, 只有当常规方法解决不了或效果不佳时ANN方法才能显示出其优越性。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,ANN往往是最有利的工具。另一方面, ANN对处理大量原始数据而不能用规则或公式描述的问题, 表现出极大的灵活性和自适应性。 黑箱 生物神经元 演示课件 人工神经元 Neuron Model： 多输入，单输出，带偏置 R个输入pi∈R，即R维输入矢量p n: net input, n=wp+b。 R个权值wi∈R，即R维权向量w 阈值b 输出a=f(n), f: transfer function 激励函数或传递函数 演示课件 常用激励函数(传递函数） a Wp -b 1 -1 阈值函数 演示课件 线性激励函数 Purelin Transfer Function ： a n 演示课件 Sigmoid函数 Sigmoid Function ： 特性： 值域a∈(0,1) 非线性，单调性 无限次可微 |n|较小时可近似线性函数 |n|较大时可近似阈值函数 演示课件 ANN 结构 (连接) 演示课件 单层前向网络 y1 y2 yn x1 x2 xm w11 w12 w1m w21 w22 w2m wn1 wnm wn2 . . . 演示课件 多层前向网络 . . . . . . . . . . . . x1 x2 xm y1 y2 yn Hidden Layer Input Layer Output Layer 演示课件 单层 反馈网络 . . . x1 x2 xm y1 y2 yn 演示课件 多层反馈网络 x1 x2 x3 y1 y2 y3 . . . . . . 演示课件 神经网络的学习方法