基于优化的RBF神经网络的变量筛选方法①-计算机系统应用.PDFVIP

计 算 机 系 统 应 用 2012 年 第 2 1 卷 第 3 期 基于优化的RBF 神经网络的变量筛选方法① 徐富强，刘相国 (巢湖学院 数学系，巢湖 238000) 摘 要：由于RBF 神经网络结构简单、输出与初始权值无关、自适应、可调参数少等特点，提出了利用交叉验 证法寻最优参数 SPREAD 值，构建最优 RBF 神经网络模型并结合 MIV 算法用于变量筛选。通过实例检验了模 型的有效性，也使该方法具有较好的稳定性和应用性。 关键词：RBF 神经网络；参数优化；交叉验证法；MIV ；变量筛选 Variables Screening Methods Based on the Optimization of RBF Neural Network XU Fu-Qiang, LIU Xiang-Guo (Department of Mathematics, Chaohu College, Chaohu 238000, China) Abstract: Because of the Characteristics of RBF neural network structure is simple, output and initialized weights irrelevant, adaptive, less adjustable parameter etc. This paper proposes using the method of cross validation to find the optimal parameter value of SPREAD, constructs the optimal RBF neural network model and combines the algorithm of MIV to use for variables screening. Through the example test the validity of the model, also make the method has better ability of stability and applied. Key words: RBF neural network; parameter optimization; cross validation method; MIV; variables screening 1 引言 性函数，因此本文提出了一种基于优化的RBF 神经网 在许多实验条件下，会产生大量的实验数据[1-3] ， 络的变量筛选方法。 如文献[1,2]对近红外光谱数据分析和文献[3]采用 HPLC 法对甘草样本进行分析所获得图谱数据。而在 2 径向基神经网络概述 类似这些数据基础上我们往往需要建立自变量与因变 径向基神经网络又称 RBF 神经网络，属于前向型 量之间的函数关系，有时候这种函数关系是非线性的、 神经网络。网络的结构与多层前向网络类似，是一个 高度不确定的。当我们对数据进行回归分析时，就需 只有一个隐藏层的三层前向网络。第一层为输入层， 要建立自变量对因变量的回归模型，这种回归模型首 有信号节点组成；第二层为隐藏层，该层节点视问题 先需要选择合适的自变量。一般而言，实验获得的自 而定，该层神经元的转化函数即径向基函数是局部响 变量往往较多，有些自变量对因变量可能影响较小或 应的高斯函数；第三层为输出层。RBF 神经网络结构 根本没有影响，甚至某些变量的获取需要付出较大代 见图 1。 价。如果这些变量不重要，将它们引入模型会降低模 RBF 网络就是用径向基作为隐单元的“基”构成 型的精度，达不到理想效果。同时，大量的自变量间 隐藏层，对输入矢量进行变换，将低维模式的输入