一种改进的RBF神经网络多目标优化算法.pdfVIP

一种改进的 RBF 神经网络多目标优化算法 1 摘 要: 针对RBF 网络训练中的多目标优化问题，提出了一种基于Pareto 方法的改进的非 支配排序遗传算法INSGA(Improved Non-dominated Sorting Genetic Algorithm)。通过对某企 业的订单数据进行预测的实验结果表明，它可以有效地解决以训练误差和测试误差为优化准 则的RBF 网络的参数确定问题，验证了改进的NSGA 算法与RBF 网络结合的可行性。 关键词: 多目标优化；非支配排序；遗传算法；RBF 网络优化 中图分类号: TP301.6 文献标志码: A 最突出的就是它们要求对多目标问题本身 1 前言 有较深入的了解，然后人为地确定一些重要 人工神经网络（ANN ）作为一种有效的 的参数。显然，这种方法的优化结果一般不 智能学习与预测模型，被广泛应用于模式识 会很理想。多目标与单目标优化问题的本质 别、模式分类、时间序列数据预测等领域。 区别是，前者一般是一组或多组连续解的集 为得到训练误差小、泛化能力强、结构简单 合．而后者只是单个解或一组不连续的解 的ANN 模型，其结构设计与权值训练是其 [6] ，为了获得更好的ANN 模型，针对以上 成功应用的关键，这也是一个典型的多目标 不足，进行分析比较, 并结合它们各自优势, 优化问题。经典的多目标进化算法主要有加 本文提出一种改进的 RBF 神经网络多目标 权法、约束法和目标规划法等。传统的多目 优化算法。实验结果表明改进的非支配排序 标优化基本思想是：将多目标优化问题，使 遗传算法可以有效的解决以训练误差和测 其转化为各目标之加权和，然后采用单目标 试误差为优化准则的 RBF 网络的参数确定 的优化技术。转化成单目标优化问题，从而 问题。是一种有效的多目标优化算法。 利用已经成熟的单目标优化方法来间接地 解决多目标优化问题。但是，这样存在几大 2 RBF 神经网络 缺点；基于传统数学规划原理的多目标优化 2.1 径向基函数神经网络 方法在实际工程优化问题中往往表现出一 RBF （径向基函数）神经网络可以根据 定的脆弱性。包括NSGA 、SPEA 在内的传 问题确定相应的网络拓扑结构，学习速度 统 MOEA 也表现出了一定的局限性。国外 快，不存在局部最小问题。它正在越来越多 学者 Srinivas 和 Deb 提出了非支配排序遗 的领域内成为替代BP 网络的一种新型网络。 传算法 NSGA-II (Non-dominated Sorting )[1,2] 本文采用Gauss型函数作为RBF神经网络的 Genetic Algorithm ，Zitzler 等于2001 年 提出了SPEAII [3,4]是其中最为有效的代表性 隐层激活函数。高斯(Gauss)函数定义[7] ： [5] 算法，国内学者朱学军 ,高正红，朱杰等对 2.2 RBF神经网络结构 于Pareto 优化问题做了较深入的研究。这些 最基本的RBF神经网络包括三层；如图 方法及其变化形式在实际多目标优化问题 1所示。包括输入层、隐层以及输出层，且 中也都已经得到了成功的应用。