机械故障诊断学钟秉林神经网络诊断原理.ppt

RBF网络的性能 RBF网络与BP网络一样是一类通用的函数逼近器； 尽管RBF的激活函数可以多种多样，但可以证明，当应用指数函数作非线性项时，RBF网络拥有“最佳逼近”特性，即存在一个权重集合，其逼近效果在所有可能的权集合中是最佳的。这种最佳逼近特性，传统的BP网络是不具备的。 四、径向基函数(RBF)网络及其学习算法 * * RBF网络的K—均值聚类学习算法 RBF网络依然是典型的有指导学习网络，其学习包括两个步骤： 1) 确定每一个RBF单元的中心cj 和半径?j ； 2) 调节权矩阵W。 四、径向基函数(RBF)网络及其学习算法 * * 3.RBF网络学习算法 问题：在多变量插值的RBF方法中，中心Cj一般定位在所有输入的矢量点，这样有多少输入数据就有多少隐RBF单元，然而，由于数据的类聚性，导致许多RBF单元中心相距很近，出现许多冗余单元，造成了“过度拟合”，减低了网络的推广能力。 四、径向基函数(RBF)网络及其学习算法 * * 中心cj 的确定 方法：目前通常先采用聚类分析技术，对输入数据进行预处理，找出有代表性的数据点（不一定位于原始数据点）作为RBF单元的中心，从而减少隐RBF单元的数目，减低网络的复杂性。 四、径向基函数(RBF)网络及其学习算法 * * RBF网络学习常用的聚类分析技术是K-均值算法，其具体过程可描述为： 四、径向基函数(RBF)网络及其学习算法 * * 半径?j 的确定 半径?j 决定了RBF单元接受域的大小，对网络的精度有极大的影响。 半径选择的基本原则：使得所有RBF单元的接受域之和覆盖整个训练样本空间。 如下图所示： 四、径向基函数(RBF)网络及其学习算法 * * RBF网络接受域示意图(二维情形) 四、径向基函数(RBF)网络及其学习算法 * * 图中给出了RBF单元接受域的示意图，其中，“*”表示样本，Dj（j=1, 2, …）表示第j个RBF单元的接受域。 通常应用K-均值聚类算法后，对每一个类中心Cj 可以令相应的半径?j等于其与属于该类的训练样本之间的平均距离，即： 四、径向基函数(RBF)网络及其学习算法 * * 另一个选择?j的方法是对每一个中心Cj求取它与其最邻近的N个近邻单元中心距离的平均值作为?j的取值。研究表明，取N=1时，不仅可以简化计算，而且能满足大部分应用要求。 调节权矩阵W 线性最小二乘法 四、径向基函数(RBF)网络及其学习算法 * * 在得到中心Cj和半径?j后，就可以对RBF网络进行训练，调节权重W使得目标函数最小，一般调节权矩阵W的方法有两种： 梯度法： 线性最小二乘法： 由于RBF网络的输出与权重W为线性关系，因此可以采用一般的线性最小二乘法求得W。也就是令网络输出： Y = W·?= U 则： 四、径向基函数(RBF)网络及其学习算法 * * 存在的缺点：需要矩阵求逆运算，当矩阵??T病态时，严重影响结果精度，因此在应用中大量采用另外一种权矩阵求解方法： 梯度法： 利用梯度下降规则逐步迭代获得权重W，其迭代公式如下： 特点：由于输出为线性单元，因而可以确保梯度算法收敛于全局最优解。 四、径向基函数(RBF)网络及其学习算法 * * 它是除了基于聚类技术的学习算法外的，另一种有效的学习算法。该方法： 首先，选择充分多的实际输入数据点作为初始RBF中心，并根据所有RBF单元的接受域之和应当覆盖整个输入区域的原则，确定其半径，从而预先确定了每一个RBF的形式； 然后，根据子集回归(Subset regression)的观点，应用Gram-Schmidt正交化过程，从上述已确定的RBF中选择对网络性能影响相对较大的部分RBF构成最终的网络结构。 四、径向基函数(RBF)网络及其学习算法 * * 正交最小二乘算法(Orthogonal Least Squares algorithm，简称OLS) 缺点：需要相当大数目的RBF才能取得较好的效果。 模糊神经网络(Fuzzy Neural Networks, 简称FNN)，它是模糊系统和神经网络相结合的产物。因此，不仅具有神经网络数值计算的优势，而且具有模糊系统处理专家知识的能力，受到了广大研究者的重视。（模糊系统和神经网络的结合） 根据侧重点不同，有如下几种方法： 利用神经网络的自学习和函数逼近功能，提高模糊系统的自适应能力，改善模糊模型的精度。 五、模糊神经网络原理 1.一般概念 * * 利用模糊系统来增强神经网络的信息处理能力。 如:将传统的神经网络模糊化使之具备处理语义知识的能力。 神经网络和模糊系统协同工作。如模糊—神经协作系统。 应用模糊控