模式识别大作业.docxVIP

模式识别大作业 班 级 学 号姓 名一.问题重述 利用Fisher线性判别法和最近邻算法对sonar数据进行分类，并得出正确率。　类别数维数样本个数sonar260mine：111rock：97二.Fisher线性判别法思路用训练样本求出d维空间到一维空间的投影方向w，进而求出样本均值，进而可求出阈值T，带入测试样本得到投影点y，将y与T相比，即可进行分类判别。2.1 Fisher准则函数中的基本参量 1在d维X空间 （1）各类样本的均值向量 =（2）样本类内离散度矩阵和总样本类内离散度矩阵 其中是对称半正定矩阵，而且当时通常是非奇异的。（3）样本类间离散度矩阵 是对称半正定矩阵。2在一维Y空间（1）各类样本的均值（2）样本类内离散度和总样本类内离散度 我们希望投影后，在一维Y空间中各类样本尽可能分得开些，即希望两类均值之差越大越好，同时希望各类样本内部尽量密集，即希望类内离散度越小越好。2.2 Fisher准则函数及最佳变换向量的求取其中，是两类均值之差，是样本类内离散度。应寻找使尽可能大的作为投影方向。2.3 阈值的选用三.最近邻算法思路 在训练样本中找到测试样本的最近邻，然后根据这个最近邻样本的类别来决定测试样本的类别。最近邻算法所选择的邻居都是已经正确分类的对象。 若写成判别函数的形式，类的判别函数可以写作，则四.Fisher线性判别法代码mine_max=111; rock_max=97;d=60;load (mines.mat); %导入mine数据load (rocks.mat); %导入rock数据amine=rand(mine_max,1);m=0;for i=1:mine_max if amine(i,1)=0.5 amine(i,1)=1; m=m+1;%记录结果大于或等于0.5的个数（mine） else amine(i,1)=0; endendarock=rand(rock_max,1);s=0;for i=1:rock_max if arock(i,1)=0.5 arock(i,1)=1; s=s+1; %记录结果大于或等于0.5的个数（rock） else arock(i,1)=0; endendbmine=zeros(m,1);cmine=zeros(mine_max-m,1);j=0;t=0;for i=1:mine_max if amine(i,1)==1; j=j+1; bmine(j,1)=i;%mine中下标为1的放在一个向量中 else t=t+1; cmine(t,1)=i;%mine中下标为0的放在一个向量中 endendbrock=zeros(s,1);crock=zeros(rock_max-s,1);j=0;t=0;for i=1:rock_max if arock(i,1)==1; j=j+1; brock(j,1)=i;%rock中下标为1的放在一个向量中 else t=t+1; crock(t,1)=i;%rock中下标为0的放在一个向量中 endenddmine=zeros(1,60);for i=1:60 for j=1:m dmine(1,i)=dmine(1,i)+outmine(bmine(j,1),i); endendmm=dmine/m; %求解mine的类均值向量drock=zeros(1,60);for i=1:60 for j=1:s drock(1,i)=drock(1,i)+outrock(brock(j,1),i); endendmr=drock/s;%求解rock的类均值向量mm=mm;mr=mr;s_mine=zeros(d,d);s_rock=zeros(d,d);for i=1:m s_mine=s_mine+(outmine(bmine(i,1),:)-mm)*(outmine(bmine(i,1),:)-mm);end %求解mine的类内离散度矩阵for i=1:s s_rock=s_rock+(outrock(brock(i,1),:)-mr)*(outrock(brock(i,1),:)-mr);end %求解rock的类内离散度矩阵sw=s_mine+s_rock;w_direction=sw^(-1)*(mm-mr);w0=w_direction*(mm+mr)/2;x=-1:2;y=-1:2;hold on;plot(x,y);y=w0;plot(y,y,xk);%阈值坐标text(0.6,0.5,w);text(-0.4,0,rock);text(0.4,0.2,mine);title(Fisher);xlabel(mine);ylabel(rock);emine=0;erock=0;for i