第4章 判别分析1创新.pptVIP

第四章 判别分析;第一节 引言;;;第二节 距离判别法;一、马氏距离的概念;;;二、距离判别的思想及方法;三、判别分析的实质*;;第三节 贝叶斯（Bayes）判别法;从上节看距离判别法虽然简单、便于使用，但是该方法也有它明显的不足之处。 第一，把总体等同看待，没有考虑到总体会以不同的概率（先验概率）出现，也即判别方法与总体各自出现的概率的大小无关。 第二，判别方法与错判之后所造成的损失无关，没有考虑误判之后所造成的损失的差异。 Bayes判别法就是为了解决这些问题而提出的一种判别方法，其判别效果更加理想，应用也更广泛。 ;一、Bayes判别的基本思想; 例4.3：办公室新来了一个雇员小王，小王是好人还是坏人大家都在猜测。按人们主观意识，一个人是好人或坏人的概率均为0.5。坏人总是要做坏事，偶尔会办件好事；好人总是做好事，偶尔也会做件坏事：一般好人做好事的概率为0.9，坏人做好事的概率为0.2。一天，小王做了一件好事，请问小王是好人的概率有多大?你现在把小王判为何种人?;例4.3; ; ; ;在正态总体的假设下，贝叶斯判别所构建的判别函数，其实就是（马氏）距离判别在考虑先验概率和协方差矩阵是否相等情况下的一个推广。 所以，贝叶斯判别，在有的统计软件中（例如SAS）又被称为广义平方距离判别法。 ;第四节 费歇（Fisher）判别法;Fisher判别法是1936年提出来的，该方法的主要思想是通过将多维数据投影到某个方向上，投影的原则是将总体与总体之间尽可能的放开，然后再选择合适的判别规则，将新的样品进行分类判别。;一、Fisher判别的基本思想;例题4.5;;本例题SPSS的几个关键输出结果;;;;几种判别方法的关系*;第五节 实例分析与计算机实现;;分类变量Group取值的设置;开始判别分析;;;;;设置均值、协差阵检验;;;;（二） 主要运行结果解释;;协差阵齐性检验结果： 由于样本资料矩阵的秩小于5（p-1）（原因？），不是非奇异矩阵，无法给出Box’s检验结果。 可见，第1、2、6个指标的同均值，确实对检验产生了影响;因此，应该剔除第1、2、6个指标，重新进行分析：;各组均值和离差的描述性统计：;剔除第1、2、6个指标后重新进行分析，得到的均值检验结果为：;剔除第1、2、6个指标后重新进行分析，得到的协差阵齐性检验结果为：;可见，判别分析开始前，有必要对各个总体的均值是否相等进行假设检验。 接下来，处于课堂演示的需要，我们继续使用原有全部六个指标，进行后续的判别分析;特征值： Wilks’s Lambda，是对Fisher判别函数的显著性进行检验。 ;（二） 主要运行结果解释;（二） 主要运行结果解释;由此表可知，两个Fisher判别函数分别为： 实际上两个函数式计算的是各观测值在各个维度上的坐标，这样就可以通过这两个函数式计算出各样品观测值的具体空间位置。; 3. Functions at Group Centroids（给出组重心处的Fisher判别函数值） 如下图 所示，实际上为各类别重心在空间中的坐标位置。这样，只要在前面计算出各观测值的具体坐标位置后，再计算出它们分别离各重心的距离，就可以得知它们的分类了。; 4. Classification Function Coefficients（给出Bayes判别函数系数）;注意，在输出结果“Classification Function Coefficients”表的下方注明是“Fishers linear discriminant functions”，但是经验证实为一般教课书中的贝叶斯线性判别函数! 命名出现不一致的原因是按判别函数值最大的一组进行归类这种思想，是Fisher提出来的，因此SPSS用“Fisher”对“贝叶斯”方法进行了命名。 并且因为贝叶斯判别函数只有在各个总体的样本的协方差阵相同时才是线性的（为什么？）因此在得到该判别函数的系数时，对样本的协方差的估计必须是在总体协方差相等情况下的估计！SPSS提供了BoxM组间协方差矩阵的齐性检验。; 4. Classification Function Coefficients（给出Bayes判别函数系数） 如上图所示，GROUP栏中的每一列表示样品判入相应列的Bayes判别函数系数。在本例中，各类的Bayes判别函数如下： 第一组： 第二组： 第三组： ;将各样品的自变量值代入上述三个Bayes判别函数，得到三个函数值。比较这三个函数值，哪个函数值比较大就可以判断该样品判入哪一类。例如，将第一个待判样品的自变量值分别代入函数，得到： F1=3793.77， F2=3528.32， F3=38