RBF网络.docVIP

RBF网络的学习过程与BP网络的学习过程类似，两者的主要区别在于各使用不同的作用函数。BP网络中隐层使用的是Sigmoid函数，其值在输入空间中无限大的范围内为非零值，因而是一种全局逼近的神经网络；而RBF网络中的作用函数是高斯基函数，其值在输入空间中有限范围内为非零值，因而RBF网络是局部逼近的神经网络。 理论上，3层以上的BP网络能够逼近任何一个非线性函数，但由于BP网络是全局逼近网络，每一次样本学习都要重新调整网络的所有权值，收敛速度慢，易于陷入局部极小，很难满足控制系统的高度实时性要求。RBF网络是一种3层前向网络，由输入到输出的映射是非线性的，而隐层空间到输出空间的映射是线性的，而且RBF网络是局部逼近的神经网络，因而采用RBF网络可大大加快学习速度并避免局部极小问题，适合于实时控制的要求。采用RBF网络构成神经网络控制方案，可有效提高系统的精度、鲁棒性和自适应性。 在RBF网络结构中，共有三层结构，即输入层，隐含层，输出层，隐含层中的每个节点都有自己的中心且与输入层相互连接，如图3．1。隐层节点作用是对于输入向量进行非线性映射，再向输出层的线性映射提供输入，在隐层每一个节点先计算输入向量与各自的中心距离，然后将其作用于激励函数得到隐层节点的输出，中间节点的输出连接到每一个输出节点，输出节点的传递函数是一个线性函数。因此，输出节点的输出是中间隐层节点输出的线性组合。这样，输入向量先经过一个非线性映射到中间隐层，再经过一个线性映射到输出。RBF网络整体上可以实现非线性映射。中间隐层激励函数都是相同的，唯一不同的是它们的中心不同。下面就是一个常用的一维径向基函数： 确定这个函数需要两个参数：中心以及方差。 图3．1 RBF神经网络结构 径向基网络数学模型为： 网络的输入Ⅳ个训练样本 （） 网络对应的输出： （） 网络输出连接权系数构成连接矩阵： 隐层节点个数I,中心点:{} 方差 网络输入输出之间的关系： RBF网络逼近的性能指标函数为： = 3．2 RBF神经网络的性能改进 3．2．1 RBF神经网络训练数据的预处理 1．进行数据预处理的原因 对于使用有教师训练算法的前向神经网络，训练样本的质量对网络的性能非常重要。RBF神经网络是一种局部网络，只有在隐含层节点中心的一定范围内的点才会使网络产生一定的输出。RBF神经网络的这种特性使得网络学习收敛速度提高的同时对一些数据的反应灵敏度下降。一个复杂的多输入多输出非线性系统，如锅炉燃烧系统，其参数种类繁多，量纲千差万别。而RBF是一种局部函数，只有在中心附近才有较大输出，训练样本的数量级相差过大会恶化网络性能。如果将大数量级的参数，如负荷直接输入到网络，会使径向基函数的输出很小，从而训练网络过程中网络变化很小，使网络很难学习到正确的信息。有些系统参数的量纲很小，如磨煤机风挡板开度数据变化很小，网络很难分别不同数据间的差别。所以我们要对数据样本进行初始化处理，将全部样本数据按一定规则映射到某有限空问范围内，再用来训练网络，能够取得很好的效果。 2．数据预处理的方法 对数据进行预处理通常使用的是“归一化’’方法。“归一化”数据处理方法就是用某种方法将一组数据映射到另一个数据空间里。对数据进行预处理会损失掉一部分数据所包含的信息，而且处理后的数据可能还需要还原成原始数据，所以数据的处理方法要尽可能的简便，这样还可以提高处理大量数据时的效率。本文中所使用的数据预处理方法为“等比映射法，这是一种在空间映射中常用的方法。根据径向基函数的数学特征，与径向基函数中心的距离d小于一定数值的点能够使函数有较明显输出。例如对于一组数据要将其映射到的线性空间内，可通过如下方法。选取这组数据中的最大和最小值和，中间值，所以变换后的数据为 经过“归一化”处理后，任何区间的数据都可以映射到如图3．2的固定空间 图3．2径向基函数的图形 3.2.2隐含层节点中心的选取 1.动态调整中心的方法 径向基函数神经网络采用的是临近聚类算法，所以网络的性能在很大程度上取决于网络的聚类中心。常用的选择聚类中心，即隐含层节点中心的方法有“K均值聚类法和“正交最小二乘法’。其中的“正交最小二乘法是选定样本点的一组子集，通过正交化变换后逐个选入作为网络中心，直到满足一定要求为止。”K均值聚类法是一种最临近聚类算法，将己存在的中心的一定范围内的点都聚类于这个中心，并按均值修正中心的位置。其聚类的算法在网络训练初期容易使中心点产生大的漂移，使网络参数变化过大。 2.改进的聚类算法 K均值聚类算法是～种常用的聚类算法。其基本思想是按照均值原则将同一聚 类范围内的点求平均值得到新的聚类中心。从K均值聚类算法的思想来看，遵循平均化原则，可以使聚类中心的分布能够符合实际样本点的分布情况