基于蚁群聚类和裁剪方法的RBF神经网络优化算法.pdfVIP

第23卷 第3期 青 岛大 学学报 (工程技术版 ) V01．23NO．3 2008年 9月 JOURNALOFQINGDAOUNIVERSITY (ET) Sep．2008 文章编号 ：1006—9798(2008)03—0035—05 基于蚁群聚类和裁剪方法的RBF神经网络优化算法 马洪伟h，赵志刚h ，吕慧显 ，李 京h (1．青岛大学 a．信息工程学院；b．自动化工程学院，山东青岛266071； 2．湖北汽车工业学院电气工程系，湖北 十堰 442002) 摘要 ：提出了一种基于蚁群聚类算法和裁剪方法的RBF神经网络优化算法。利用蚁群 算法的并行寻优特征和一种 自适应调整挥发系数的方法 ，提 出一种新 的聚类算法来确定 RBF神经网络中基函数的位置；通过一种裁减 的方法 ，除去对整个 网络的输 出贡献不是 很重要 的隐层单元来约简隐含层的神经元 ，以达到简化 RBF神经 网络结构的 目的。对非 线性函数进行逼近仿真，结果表 明：优化算法有 比较好的优化效果，而且，优化后的RBF 神经网络的结构小 ，RBFNN 的泛化能力得到了提高 。 关键词：RBF神经网络 ；蚁群聚类算法 ；泛化能力 中图分类号：TP389．1 文献标识码：A 径向基 函数神经网络 (RBFNN)以其简单的网络结构 、快速的学习方法、较好的推广能力，已经广泛地应 用于许多领域 ，特别是模式识别和 函数逼近等领域。然而，如何有效地确定 RBF神经网络 的网络结构和参 数，至今没有系统的规律可循 。在 RBF神经网络中需要确定的参数包括隐含层节点数、隐含层基函数的中 心值和宽度、隐含层到输出层的连接权值 。目前，隐含层节点数主要依靠经验来选取。而根据moody准则， 神经网络的设计应该在满足精度要求的情况下有最小的结构 ，以保证 网络的泛化能力口]。隐含层基 函数 中 心值的选取对网络的函数逼近能力有很大的影响，目前最常用 的确定隐含层 中心值 的方法是 K一均值聚类 法 。中心值 的确定是从输入样本中选取 ，往往由于样本数量少或其值不能较好地反应系统输入输出关系等 因素，降低了网络的最佳逼近性能。作者提出了一种基于蚁群聚类算法_2J和裁剪方法的RBF神经网络优化 算法。首先提出了蚁群聚类算法 ，利用蚁群算法的并行寻优特征和挥发系数的 自适应方法更改信息量的能 力，使得所提算法具有很强的搜索全局最优解 的能力。这不仅可以快速聚类，而且使聚类结果更为优化，聚 类 中心点更具代表性 ，将其应用于 RBF神经网络 ，可以大大提升网络的鲁棒性及训练速度。同时，为了优化 RBF神经网络的结构，还提出了网络约简方案，从而使整个 RBF神经网络的网络结构更为精简。 1 RBF神经网络 RBFNN属于 3层网络结构 (如图 1)，分别是输入层、隐含层和输出层 。其 中，输入层到隐含层是非线性映射，通过隐层单元实现 ；隐含层到输 出层是线性 映射，即为隐层单元输 出值的加权和。隐含层采用径向基函数作为传输函数，通 常是采用高斯函数。假定输入样本为 ，则隐含层第 i个单元的输出为 图1RBF函数神经网络结构 R ()=e- x--ci ／2a2 i一 1，2，… ，L (1) ， 式中，L为隐含层单元的个数，c为基函数的中心， 是第 i个隐含层单元的高斯函数的宽度。相应的输 出 层节点的输 出为 收稿 日期 ：2008—06一O5 作者简介 ：马洪伟(1980一)，男 ，山东诸城人 ，硕士研究生 ，主要研究方 向为RBF神经网络 。 36 青 岛大学学报 (工 程技术 版) 第 23卷 L y一∑ fR()