智能控制理论及应用课件作者韩力群第三章节神经网络控制及应用(常用网络与算法).ppt

离散型Hopfield神经网络 2. 网络的稳定性与吸引子 2. 网络的稳定性与吸引子 2. 网络的权值设计 3.1.5 径向基函数网络 径向基函数RBF 20世纪80年代后期，Powell在解决“多变量有限点严格(精确)插值问题”时引入了径向基函数技术。采用径向基函数技术解决插值问题的方法是，选择P个基函数，每一个基函数对应一个训练数据，各基函数的形式为 , p=1, 2, …, P (3-36) 式中基函数φ为非线性函数，训练数据点Xp是φ的中心。基函数以输入空间的点X与中心Xp的距离作为函数的自变量。 由于距离是径向同性的，故函数φ被称为径向基函数。 3.1.5 径向基函数网络 径向基函数RBF 常用基函数曲线 1.Gauss函数 2.Reflected sigmoidal函数 3.Inverse multiquadrics 函数 3.1.5 径向基函数网络 径向基函数RBF 设N维空间有P个输入向量，p=1, 2, …, P，它们在输出空间相应的目标值为 ，p=1, 2, …, P，P对输入-输出样本构成了训练样本集。 寻找一个非线性映射函数F(X)，使其满足下述插值条件 F(Xp)=d p， p=1, 2, …, P (3-35) 式中，函数F描述了一个插值曲面。 基于径向基函数技术的插值函数定义为基函数的线性组合  (3.40) 3.1.5 径向基函数网络 正则化RBF网络 3.1.5 径向基函数网络 正则化RBF网络 正则化RBF网络具有以下3个特点： ①正则化网络是一种通用逼近器，只有要足够的隐节点，它可以以任意精度逼近紧集上的任意多元连续函数。 ②具有最佳逼近特性，即任给一个未知的非线性函数f，总可以找到一组权值使得正则化网络对于f的逼近由于所有其他可能的选择。 ③正则化网络得到的解是最佳的，所谓“最佳”体现在同时满足对样本的逼近误差和逼近曲线的平滑性。 3.1.5 径向基函数网络 正则化RBF网络 正则化RBP网络的隐节点数即样本数，基函数的数据中心即为样本本身，只需考虑扩展常数和输出节点的权值。 径向基函数的扩展常数可根据数据中心的散布而确定，为了避免每个径向基函数太尖或太平，一种选择方法是将所有径向基函数的扩展常数设为 (3-37) 样本之间的最大距离 样本的数目 3.1.5 径向基函数网络 正则化RBF网络 输出层的权值常采用最小均方算法(LMS) ，权值调整公式为 或 j=0,1,…,P；k=1,2,…,l (3-38b) (3-38a) 3.1.5 径向基函数网络 正则化RBF网络 对于单输出RBF网络，更简捷的方法是用求逆法直接计算。 (3-41) (3-42) 式中 称为插值矩阵。令 ，i=1, 2, …, P，p=1, 2, …, P。若 为可逆矩阵，就可以从式(3.41)中解出权值向量W，即 3.1.5 径向基函数网络 广义RBF网络 3.1.5 径向基函数网络 广义RBF网络有以下几个特点： ①径向基函数的个数M与样本的个数P不相等，且M常常远小于P。 ②径向基函数的中心不再限制在数据点上，而是由训练算法确定。 ③各径向基函数的扩展常数不再统一，其值由训练算法确定。 ④输出函数的线性中包含阈值参数，用于补偿基函数在样本集上的平均值与目标值之平均值之间的差别。 广义RBF网络 3.1.5 径向基函数网络 广义RBP网络的设计包括结构设计和参数设计： 结构设计——主要解决如何确定网络隐节点数的问题。 参数设计——包括3种参数 ①各基函数的数据中心设计 ②扩展常数设计 ③输出节点的权值设计 广义RBF网络 3.1.5 径向基函数网络 根据数据中心的取值方法，广义RBF网的设计方法可分为两类。 第一类方法：数据中心从样本输入中选取。径向基函数的扩展常数根据数据中心的散布而确定，一种选择方法是将所有径向基函数的扩展常数设为 (3-43) 数据中心之间的