机器学习基于实例的学习.pptVIP

* * 8.4径向基函数（5/7） 人们已经提出了几种方法来选取适当的隐藏单元或者说核函数的数量。 第一种方法是为每一个训练样例 xi ，f(xi)分配一个高斯核函数，此高斯核函数的中心点被设为xi。所有高斯函数的宽度?2可被赋予同样的值。 选择核函数的一个优点是它允许RBF网络精确地拟合训练数据。即，对于任意m个训练样例集合，合并m个高斯核函数的权值w0… wm可以被设置为使得对于每一个训练样例 xi,f(xi)都满足 ，此时也可以有m个输出。 * * 8.4径向基函数（6/7） 第二种方法是选取一组数量少于训练样例数量的核函数。这种方法在训练样例的数量巨大的时候比第一种方法更有效。 核函数被分布在整个实例空间X上，它们的中心之间有均匀的间隔。 或者，也可以非均匀地分布核函数中心，特别是在实例本身在X上非均匀分布的时候。 或者，先求出训练样例的原始聚类，然后以每个聚类为中心加入一个核函数。 第6.12.1节讨论的EM算法提供了一种从k个高斯函数的混合中选择均值，以最佳拟合观测到实例的方法。 * * 8.4径向基函数（7/7） 用多个局部核函数的线性组合表示的径向基函数网络提供了一种目标函数的全局逼近。仅当输入x落入某个核函数的中心和宽度所定义的区域内时，这个核函数的值才是不可忽略的。因此，RBF网络可以被看作目标函数的多个局部逼近的平滑线性组合。