2015判别分析贝叶斯判别.pptVIP

第五章　　判别分析 判别分析是多元统计中用于判别样品所属类型的一种统计分析方法。是一种在一些已知研究对象用某种方法已经分成若干类的情况下，确定新的样品的观测数据属于那一类的统计分析方法。 判别准则： 用于衡量新样品与各已知组别接近程度的思路原则。 距离判别法 判别准则：对于任给一次观测值，若它与第 类的重心距离最近，就认为它来自于第 类。 两总体的距离判别 3、当总体的协方差未知时，用样本的离差阵代替， 步骤如下： （1）分别计算各组的离差矩阵 和 ； （2）计算 （3）计算类的均值 （4）计算 （5）计算 （6）生成判别函数，将检验样本代入，判类。 贝叶斯判别法 办公室新来了一个雇员小王，小王是好人还是坏人大家都在猜测。按人们主观意识，一个人是好人或坏人的概率均为0.5。坏人总是要做坏事，好人总是做好事，偶尔也会做一件坏事，一般好人做好事的概率为0.9，坏人做好事的概率为0.2，一天，小王做了一件好事，小王是好人的概率有多大，你现在把小王判为何种人。 一个好的判别方法，既要考虑到各个总体出现的先验概率，又要考虑到错判造成的损失，贝叶斯(Bayes)判别就具有这些优点，其判别效果更加理想，应用也更广泛。 二、 考虑错判损失的Bayes判别分析 【定义】（平均错判损失） 【定理】 且相应的密度函数为 ，损失为 时， 划分的贝叶斯解为 含义是：当抽取了一个未知总体的样品值x，要判别它属于哪个总体，只要先计算出k个按先验概率加权的误判平均损失 然后比较其大小，选取其中最小的，则判定样品属于该总体。 由此可见，被积函数在D1是负数时，可使ECM最小，则有分划 特别地，若 当错判概率 广义平方距离法 练习：设三个总体 的分布分别为 按广义平方距离准则判断样品 应判归哪一类. * * Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 判别函数： 基于一定的判别准则计算出的用于衡量新样品与各已知组别接近程度的描述指标。 按照判别准则来分有 距离判别、费希尔判别与贝叶斯判别。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 马氏距离 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 1、协方差相等 先考虑两个总体的情况，设有两个协差阵?相同的p维正态总体 和 ，对给定的样本Y，判别一个样本Y到底是来自哪一个总体，一个最直观的想法是计算Y到两个总体的距离。我们用马氏距离来指定判别规则，有： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 因此有 判别函数： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 2、当总体的协方差已知，但不相等 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile