基于PLS和GAs的径基函数网络构造策略195;.pdfVIP

1000-9825/2002/13(08)1450-06 ©2002 Journal of Software 软 件 学 报 Vol.13, No.8 基于PLS 和GAs 的径基函数网络构造策略 赵伟祥, 吴立德 (复旦大学 计算机科学与工程系,上海 200433) E-mail: weixiang_zhao@263.net 摘要: 鉴于传统径基函数网络(radial basis function network, 简称RBFN)构造策略的不足,提出了基于偏最小二 乘法(partial least squares, 简称PLS)和遗传算法(genetic algorithms, 简称GAs)的RBFN 构造策略和一种更有效的 径基宽度取值方法.在这个集成构造策略中,PLS 克服了 K-Means 算法求取径基易陷入局部最优的弊病,并使合 成径基比由正交算法获取的径基更具代表性;而所提出的径基宽度取值方法和 GAs 则为网络性能和结构的实 质性改善与优化提供了保障.实验证实了基于PLS 和 GAs 的RBFN 构造策略及所提出的径基宽度取值方法的 优越性、可靠性和有效性. 关 键 词: 径基函数网;聚类;正交算法;偏最小二乘回归;遗传算法 中图法分类号: TP183 文献标识码: A 在众多的神经网络中,径基函数网(radial basis function network,简称RBFN) 已在模式识别、时间序列预测 及故障诊断等领域得到了广泛应用[1] .构造径基函数网的关键是确定径基个数、径基向量和每个径基的宽度. 传统的构造方法是 K-Means 聚类算法和正交学习算法(orthogonal learning algorithm, 简称 OLA)[2,3].然而在 K-Means 算法中,径基数目是经验值,径基向量的求取又极易陷入局部最小;而OLA 则无法保证所选径基能够反 映训练样本集的全部信息.为此,有学者提出采用遗传算法(genetic algorithms,简称GAs)来获得径基向量及径基 宽度[1],但这将耗费巨额的搜索时间. 本文提出了一种基于偏最小二乘法(partial least square,简称PLS)和 GAs 的RBFN 构造策略, 以克服常规 RBFN 构造策略的不足,并把由此得到的网络称为偏径基函数网(PRBFN).另外,为了充分利用样本空间分布信 息,本文提出了一种更有效的径基宽度取值方法,并通过它与 GAs 的结合有效地解决了网络构造中的两个耦合 问题(给定网络结构,如何使网络精度达到最高;给定网络拟合误差上限,如何使网络结构趋于最简,并在这个最 简结构的基础上使得网络精度达到最优),从而为 PRBFN 的最优设计提供了根本保障.本文最后通过一系列的 实验证实了该RBFN 集成构造策略以及所提出的径基宽度取值方式的优越性、有效性和可靠性,也为今后更广 泛的应用提供了依据. 1 常规RBFN 构造策略 [2] 标准 RBFN 通常是一种两层前传网 .网络输入层接收外来信号,输入层与隐层间的权向量w 对应于径基 i 向量c ,输出层则对隐层输出加权求和.整个系统可用一个插值函数f (x ) 来描述( 以一维输出为例): i i m ( ) 2 2 f x ∑v exp(− x −c σ