模式识别三判别域代数界面方程法.ppt

从3.4节开始介绍第一步：利用训练样本求解权矢量，首先是用Fish判别的方法。 * F.Rosenblatt(USA), 1957 * 由上面的结果可以看出，经过对、、、一轮迭代后表明，使用已能对所有训练样本正确分类，增广权矢量的值不再变化，所以算法收敛于，就是所求的解向量，即。由此还可以得到区分界面为，即。 * 一次准则函数及梯度下降法也可以推广应用于多类问题。由于多类问题的第三种分类途径没有不确定区，我们只针对这种途径介绍感知器训练算法，其它算法是类似的。 （1)求解Fisher准则函数 取类间离差阵为 作变换，n维矢量 在以矢量 为方向的轴上进行投影 变换后在一维 y 空间中各类模式的均值为 i=1,2 i=1,2 类内离差度 和总的类内离差度 为 类间离差度为 　希望经投影后，类内离差度 越小越好，类间离差度 越大越好，根据这个目标作准则函数 并使其最大,上式称为Fisher准则函数。 利用二次型关于矢量求导的公式可得 令 可得 （2) 求解Fisher最佳鉴别矢量 当N较大时，SW通常是非奇异的,于是有