模式识别实验三..docVIP

实验3 基于Fisher准则的线性分类器设计 实验目的： 1. 进一步了解分类器的设计概念，能够根据自己的设计对线性分类器有更深刻地认识； 2. 理解Fisher准则方法确定最佳线性分界面方法的原理，以及乘子求解的原理。 1. PC微机一台和MATLAB软件。设有一个集合包含N个d维样本，其中个属于类，个属于类。线性判别函数的一般形式可表示成,其中。 根据Fisher选择投影方向的原则，即使原样本向量在该方向上的投影能兼顾类间分布尽可能分开，类内样本投影尽可能密集的要求，用以评价投影方向的函数为： 　 其中： 为类中的第个样本 为类内离散度，定义为： 为类间离散度，定义为： 上面的公式是使用Fisher准则求最佳法线向量的解，我们称这种形式的运算为线性变换，其中是一个向量，是的逆矩阵，如是维，和都是×维，得到的也是一个维的向量。 向量就是使Fisher准则函数达极大值的解，也就是按Fisher准则将维空间投影到一维空间的最佳投影方向，该向量的各分量值是对原维特征向量求加权和的权值。 以上讨论了线性判别函数加权向量的确定方法，并讨论了使Fisher准则函数极大的维向量的计算方法，但是判别函数中的另一项尚未确定，一般可采用以下几种方法确定如 　 或者 或当与已知时可用 　　　　 当确定之后，则可按以下规则分类，　 　　　 　　 和二者的概