径向基函数网络的分类机理及其学习算法.pdfVIP

径向基函数网络的分类机理及学习算法 ，／JIlIll1 ／ _‘ 吴开贵王韶周家启 张安帮 (重庆大学电气工程系重庆大学400044) 摘要本文研究了径向基函数罔络(OBFN)的分类原理， 本文在Ruck研究结果的基础上，通过与基 分析了陟FN使用正、负两类训练样本来估计判别函数的 了二Parzen窗的核估计法做类比，分析了R8FN优 特点，并讨论了相应情况下RBFN输出层连接权、模式分 子传统核分类器的特点，讨论了连接权及判决域 类判别域的特点．最后设计出了变结构的RBFN的自适算 的特点，最后提出了自适应学习算法。 法． 关键词神经闻害苦径向基函数网络算法 2RBFN模型 1引言 RBFN的结构如图l所示，输入层、隐层和 输出层的单元数为1．、N、M。每个隐单元对输入 径向基函数网络(RBFN)以其简单的结构、模式计葬…个核函数，分类器的输出为所有这些 侠速的训练过程及良好的推广能力等优越的性能 核函数的线性加权和： 已f“泛应用于许多领域，特别是模式分类和函数 y。∽=霉。w。·r 逼近方[1][2][3][4]面。当RBFN用于模式分类 f掣l 时，在形式七与传统的核函数(或称基函数)分 (k=1，2，…，M) (1) 类器很相似、如势函数、核估计洼以及概率神经 其中，K{·)为隐层单元的核函数，一般选为 网络(PNN)。RBFN铍广泛应用的另一个领域是 函数逼近．并且有许多其他方法与它很相似。从 高斯核函数；x为输入样本：c。、d．NI骢N．g 结构上看，RBFN可划归为前向网络，但它与用BP 算法训练的前向网络不同，后者的参数为随机初 元核函数的中心和宽度，其中宽度d是RBFN 始化．而RBFN的参数(如隐层单元的中心及方 著)是根据训练样本按一定的规则来确定的。 的～个重要参数，它对网络的分类效果及湘练后 。 的推广性能都有极其重要的影响。 早在1973年，Ouda和Hart就研究了两类 样本分类’清况r使误差平方型能量函数最小与估 分类器的期望输出定义为： 计Bayes概率之间的关系，近年来又有许多文章 g。：b {孵究r两类及多类样本分类的情况 ：9]ilO]!113，特别是当前向髓模型的研究已经 X1 y。 很深入了。Ruck等人Hj两类及多类分类问题证 明了[12j：当多层感知器(MLP)被训练为分类器 X2 y： MLP的输出 时，它逼近Bayes最优判决函数，目p 逼近破lJ||练样本的后验概率函数。在[12]中Ruck