Matlab神经网络工具箱报告.pptVIP

目标线 训练误差变化曲线 训练误差变化曲线 BP网络的标准学习算法 学习的过程： 神经网络在外界输入样本的刺激下不断改变网络的连接权值,以使网络的输出不断地接近期望的输出。 学习的本质： 对各连接权值的动态调整 学习规则： 权值调整规则，即在学习过程中网络中各神经元的连接权变化所依据的一定的调整规则。 BP网络的标准学习算法-算法思想 学习的类型：有导师学习 核心思想： 将输出误差以某种形式通过隐层向输入层逐层反传 学习的过程： 信号的正向传播 误差的反向传播 将误差分摊给各层的所有单元－－－各层单元的误差信号 修正各单元权值 BP网络的标准学习算法-学习过程 正向传播： 输入样本－－－输入层－－－各隐层－－－输出层 判断是否转入反向传播阶段： 若输出层的实际输出与期望的输出（导师信号）不符 误差反传 误差以某种形式在各层表示－－－－修正各层单元的权值 网络输出的误差减少到可接受的程度 进行到预先设定的学习次数为止 径向基函数网络RBF 径向基函数网络：只有一个隐层，隐层单元采用径向基函数。隐层把原始的非线性可分的特征空间变换到另一个空间（通常是高维空间），使之可以线性可分。 输出为隐层的线性加权求和。采用基函数的加权和来实现对函数的逼近。 径向基函数(radial basis function, RBF)：径向对称的标量函数k(||x-xc||)，最常用的RBF是高斯核函数 径向基函数网络结构 MATLAB神经网络工具箱 神经元模型 Neuron Model： 多输入，单输出，带偏置 输入:R维列向量 权值:R维行向量 阈值:标量 求和单元 传递函数 输出 常用传递函数 a Wp -b 1 -1 阈值函数 MATLAB函数: hardlim MATLAB函数: hardlims 线性函数 Purelin Transfer Function ： a n MATLAB函数: purelin Sigmoid函数 Sigmoid Function ： 特性： 值域a∈(0,1) 非线性，单调性 无限次可微 |n|较小时可近似线性函数 |n|较大时可近似阈值函数 MATLAB函数: logsig(对数), tansig(正切) 对数Sigmoid函数 正切Sigmoid函数 单层神经网络模型 R维输入, S个神经元的单层神经网络模型 多层神经网络模型 多层神经网络简化表示 前馈神经网络 前馈神经网络(feed forward NN)：各神经元接受前级输入，并输出到下一级，无反馈，可用一有向无环图表示。 前馈网络通常分为不同的层(layer)，第i层的输入只与第i-1层的输出联结。 可见层：输入层(input layer)和输出层(output layer) 隐藏层(hidden layer) ：中间层 感知器(perceptron): 单层前馈网络 传递函数为阈值函数 主要功能是模式分类 感知器的生成 函数newp用来生成一个感知器神经网络 net = newp( pr, s, tf, lf ) net: 函数返回参数,表示生成的感知器网络 pr: 一个R×2矩阵, 由R维输入向量的每维最小值和最 大值组成 s: 神经元的个数 tf: 感知器的传递函数, 默认为hardlim, 可选hardlims lf: 感知器的学习函数,默认为learnp, 可选learnpn net = newp([-2,+2;-2,+2],2) %生成一个二维输入,两个神经元的感知器 newp 感知器的权值和阈值初始化 newp默认权值和阈值为零(零初始化函数initzero). net = newp([-2,+2;-2,+2],2); W=net.IW{1,1} %显示网络的权值 b=net.b{1} %显示网络的阈值 W = 0 0 0 0 b = 0 0 改变默认初始化函数为随机函数rands net.inputweights{1,1}.InitFcn = ‘rands’; net.biases{1}.InitFcn = ‘rands’; net =init(net); %重新初始化 直接初始化定义权值和阈值 net.IW{1,1}=[1 2]; net.b{1}=1 感知器学习 感知器学习算法 权值增量: 阈值增量: 权值更新: 阈值更新: 算法改进 输入样本归一化 权值和阈值训练与学习函数 train net=train(net, P, T) 设计好的感知器并不能马上投入使用. 通过样本训练, 确定感知器