第六章 径向基函数网络 智能系统课件.pptVIP

第六章 径向基函数网络 6.1 径向基函数及其网络分析 6.2 网络的训练与设计 6.3 广义径向基网络 6.4 数字应用对比及性能分析 6.1 径向基函数及其网络分析 6.2 网络的训练与设计 RBF网络的训练与设计分为两步 第一步是采用非监督式的学习训练RBF层的权值 第二步是采用监督式学习训练线性输出层的权值，网络设计仍需要用于训练的输入矢量矩阵P 以及目标矢量矩阵T，另外还需要给出RBF层的伸展常数。 训练的目的是为了求得两层网络的权值W1和W2及偏差b1和 b2。 改进思想： 在满足目标误差的前提下尽量减少RBF层中的神 经元数。做法：从一个节点开始训练，通过检查误差目标使 网络自动增加节点。每次循环用使网络产生最大误差所对应 的输入矢量产生一个新的RBF层节点，然后检察新网络的误 差，重复此过程直到达到目标误差或最大神经元数为止。 RBF网络不是BP网络，其原因是： 1）它不是采用BP算法来训练网络权值的。 2）其训练的算法不是梯度下降法。 6.3 广义径向基网络 广义径向基函数（General Radial Basis Function，简GRBF） 网络具有一个径向基层和一个特殊的线性层，如图6.4所示。 6.4 数字应用对比及性能分析 用于曲线逼近的输入/输出数组为： P = -1: 0.1: 1; T = [-.9602 -.5770 -.0729 .3771 .6405 .6600 .4609 ... .1336 -.2013 -.4344 -.5000 -.3930 -.1647 .0988 ... .3072 .3960 .3449 .1816 -.0312 -.2189 -.3201]; 作为对比，首先对于这21组输入/输出对，构造一个隐含层含 有10个神经元，并采用对数S型激活函数，输出层采用线性 函数的前向网络，然后分别采用标准的误差反向传播法、改 进的带有附加动量法和自适应学习速率相结合的快速算法， Levenberg-Marquardt算法。而RBF网络的训练采用的是自动 确定所需要的隐含层节点数的方法。 * 图6.1 具有R个输入节点的径向基函数网络结构图 径向基层输入的数学表达式为：n = 径向基层输出的数学表达式为： 考虑R维空间的q个数据点(X1，X2，…，Xq），假定数据 已归一化到一个超立方体中。数据点 处的密度指标 定义为 在计算每个数据点的密度指标后，选择具有最高密度指标的 为选中的点， 指标。那么每个数据点 的密度指标可用公式 数据点为第一个聚类中心，令 为其密度 来修正。其中C是一个正数，一般可选C = 1.5A。 b和C之间的关系式设置为 (a) (b) 图6.2 径向基函数输入/输出/面积宽度关系图 图6.3 径向基网络结构图 图6.4 广义径向基网络结构图 RBF层的输出 为通过高斯型径向基函数的输出： 整个网络的输出y为： *