fisher算法及其matlab实现.docVIP

fisher算法及其matlab实现 Fisher判别法讲解以及matlab代码实现 两类的线形判别问题可以看作是把所有样本都投影到一个方向上，然后在这个一维空间中确定一个分类的阈值。过这个预置点且与投影方向垂直的超平面就是两类的分类面。 第一个问题，如何确定投影方向？ 这里只讨论两类分类的问题.训练样本集是X={x1,x2...xn},每个样本是一个d维向量，其中第一类w1={，...},第二类w2={，...}。我们要寻求一个投影方向w（w也是一个d维向量），投影以后样本变成：=(y是一个标量)，i=1...n 在原样本空间中，类均值为： i=1,2(一共两类的均值) （ps.是一个d*1的矩阵，假设每个维度是一个变量值，mi中的每一维度就是这些变量值的均值，如下图所示: 图1 特别注明：有些例子给的矩阵是这样的： 在投影以后的一维空间里，两类的均值分别是； i=1,2 故类内离散度不再是一个矩阵，而是一个值 i=1，2 总类内离散度为： 类间离散度： 要使得需求的方向投影能在投影后两类能尽可能的分开，而各类内部又尽可能的聚集，可表示成如下准则，即fisher准则： 将公式代入并通过拉格朗日求极值的方法，可得投影方向： （w是一个d*1的矩阵，或者说亦是一个d维向量） 阈值可表示