复杂样本分类GA--RBFNN方法.pdfVIP

复杂样本分类的GA-RBFNN 方法1 1 1 1 田津 ，李敏强 ，陈富赞 1 天津大学管理学院，天津 (300072) E-mail：jtian_tju@ 摘 要：本文以提高径向基函数神经网络(RBFNN)分类能力为出发点，结合遗传算法(GA) 群体并行搜索能力，提出了一种有效的GA-RBFNN 学习算法。该算法在传统衰减聚类算法 确定网络初始结构的基础上，加入控制向量，设计了包含整个网络隐节点结构和径基宽度的 矩阵式混合编码方式，以及相应的遗传操作算子。网络权值由伪逆法求解确定。经Iris 、Wines 和Glass 数据集的仿真实验验证，该算法快速有效，具有较强的复杂样本分类能力。 关键词：RBFNN 遗传算法 混合编码 分类能力 中图分类号：TP18 1．引言 径向基函数神经网络(Radial Basis Function Neural Network ，RBFNN)是20世纪80年代末 提出的一种单隐层前馈网络[1]，其设计的核心问题是确定隐节点数目及相应数据中心。 由于隐节点数是不连续和不可微的，存在很多局部极小。传统优化方法，如梯度下降法 等，由于需要对象函数的导数信息，很可能陷入这些局部极小解。且当考虑网络结构和参数 时，搜索空间实际上是无限的，对传统优化方法来说，发现全局最优解在计算上不可能实现。 遗传算法(Genetic Algorithms，GA)不要求目标函数具有连续性，而是利用自然进化规则进行 搜索和完成对问题的求解，具有较好的全局搜索能力。大量将GA应用于RBFNN 中的算法[2-4] 研究表明：通过GA动态调整RBFNN 的参数，能在一定程度上克服过学习现象，增强其全局 搜索能力，避免陷入局部极小点。 本文在传统RBFNN训练方法确定网络初始结构的基础上，加入控制向量，设计了包含 整个网络隐节点结构和相关参数的矩阵式混合编码方式，以及相应的交叉和变异算子，权值 由伪逆法求解确定，提出了一种有效的GA-RBFNN算法。 2 ．RBFNN基本原理 标准的RBFNN是由非线性隐层和线性输出层组成的多输入多输出的前向网络，如图1 所示，反映了系统的多输入x ∈Rm 和多输出y ∈Rn 之间的函数关系f : x →y 。隐层激活 函数定义为具有对称性质的径向基函数，本文采用如下形式的高斯型函数： ⎧ 2 ⎫ ⎪ x −µj ⎪ ϕ (x ) exp ⎨=− ⎬ (1) j 2 σ ⎪⎩ j ⎭⎪ 输出层对隐层节点的输出进行线性加权，其第i个输出为： k y ∑w ϕ (x ) (2) i j i j j 1 其中，x (x ,x ,K,x )T 为输入向量， 是第j 个隐节点的中心， 为其对应的的径基 1 2 m µ j σj 1本课题得到高等学校博士学科点专项科研基金（No.20020056047 ）和国家自然科学基金