模式识别fisher线性判别作业任务.docxVIP

实验内容 使用FISHER线性判别来对树叶进行分类 指导老师_王旭初 一.实验目的 利用FISHER线性判别函数来对桃树叶子和芒果树叶子进行分类，将这两者若干 片树叶进行一定特点分类，做出函数图，使得我们容易分析这两者之间的异同。 二?数据获取方式 实验过程中将会使用到FISHER线性判别函数法，MATLAB实验仿真程序。通过实验 MATLAB程序来设计一个FISHER线性判别分类器，将实验前收集到的两种树叶的若干 片叶子的数据输入分类器，运行后得出一个分类仿真图形，从而可以得出其叶子间的异 同点。 实验原理 Fisher线性判别分析的基本思想：通过寻找一个投影方向（线性变换，线性组合） ， 将高维问题降低到一维问题来解决，并且要求变换后的一维数据具有如下性质：同 类样本尽可能聚集在一起，不同类的样本尽可能地远。 Fisher线性判别分析，就是通过给定的训练数据，确定投影方向 W和阈值y0，即确定 线性判别函数，然后根据这个线性判别函数，对测试数据进行测试，得到测试数据的类 线性判别函数的一般形式可表示成 g (X) g (X) WTX w0 w2Xi w2 X Xd 根据Fisher选择投影方向W的原则，即使原样本向量在该方向上的投影能兼 顾类间分布尽可能分开，类内样本投影尽可能密集的要求，用以评价投影方向 W的 函数为： *~ *~ 2 Jf(W)g m Jf(W) ?2 ?2 ~2 S； * 1 w Sw (m)1 m(2) 上面的公式是使用Fisher准则求最佳法线向量的解，该式比较重要。另外，该 式这种形式的运算，我们称为线性变换，其中m m2式一个向量，Sw1是Sw的逆矩阵， 如m1 m2是d维，Sw和Sw1都是d Xd维，得到的w*也是一个d维的向量。 向量w*就是使Fisher准则函数Jf(W)达极大值的解，也就是按Fisher准则将d 维X空间投影到一维丫空间的最佳投影方向，该向量 w*的各分量值是对原d维特 征向量求加权和的权值。 以上讨论了线性判别函数加权向量 W的确定方法，并讨论了使Fisher准则函数 般可采极大的d维向量W*的计算方法，但是判别函数中的另一项 Wo尚未确定, 般可采 用以下几种方法确定Wo如 mi r~2 2 Wo Wo 或当p( )i与p( )2已知时可用 Wom |~ Wo m |~2 In p( i)/ p( 2) 2 N, N2 2 当W0确定之后，则可按以下规则分类， WTX w0 X , WTX w0 X 2 尽管提出使用Fisher准则方法确定最佳线性分界面的方法是一个著名的方法, 尽管提出 该方法的时间比较早，仍见有人使用。 (1)W的确定 各类样本均值向量mi 1 . “ mi —— x, i 1,2 Ni x Xi 样本类内离散度矩阵Si和总类内离散度矩阵 Sw S (x mj(x mi)T, i 1,2 x Xi S SW S1 S2 样本类间离散度矩阵Sb Sb (m m2)(m m0T 在投影后的一维空间中，各类样本均值 m i= W Tm i o样本类内离散度和总类 内离散度S = ESi W亍=WSW。样本类间离散度Sb = WTSbW。 Fisher准则函数满足两个性质： ?投影后，各类样本内部尽可能密集，即总类内离散度越小越好。 ?投影后，各类样本尽可能离得远，即样本类间离散度越大越好。 根据这个性质确定准则函数，根据使准则函数取得最大值，可求出 W: -1 W = S (m - mb) o (2)阈值的确定 实验中采取的方法：y。= (mi + m 2)/ 2 (3) Fisher线性判别的决策规则 对于某一个未知类别的样本向量 x，如果y=W Txy0，贝U x € w1 ;否则x € w2 o 实验步骤 （1 ）采集桃树叶子150片，采集芒果树叶子150片。测量这些叶子的长度，宽 度，以及周长。 （2 ）将上述叶子的数据记录下来。 （3） 使用matlab仿真实验工具设计一个fisher线性判别分类器。 （4） 将记录下来的树叶的数据输入分类器， 创建一个二维的分类参数，使用分类 器对其进行特征分类。 （5） 利用matlab仿真程序将分类的结果画出仿真图形，并做记录分析。 实验代码 实验结果 Q Figure 1 Q Figure 1 File Edit 里Insert Tools Desktop Window Help ID 1.2迂也 曉l、r?⑥诅X ?电□ [0 ■口 斗桃跚 匚芒果树 —特分类 36 七?心得体会 这次实验加深了我对课上学习到的模式识别原理与应用的知识的理解，提高了 动手实践能力。的确上课时听过的内容当时明白了但是却是一闪即过的，只有通过 亲自动手实践才能够对于知识有真正深刻而完整的理解 . 由于专业课程设