《应用多元分析》第三版(第五章).ppt

编号 组别 x1 x2 x3 x4 编号 组别 x1 x2 x3 x4 1 Ⅰ 50 33 14 2 76 Ⅲ 58 27 51 19 2 Ⅲ 64 28 56 22 77 Ⅱ 57 29 42 13 3 Ⅱ 65 28 46 15 78 Ⅲ 72 30 58 16 4 Ⅲ 67 31 56 24 79 Ⅰ 54 34 15 4 5 Ⅲ 63 28 51 15 80 Ⅰ 52 41 15 1 6 Ⅰ 46 34 14 3 81 Ⅲ 71 30 59 21 7 Ⅲ 69 31 51 23 82 Ⅲ 64 31 55 18 8 Ⅱ 62 22 45 15 83 Ⅲ 60 30 48 18 9 Ⅱ 59 32 48 18 84 Ⅲ 63 29 56 18 10 Ⅰ 46 36 10 2 85 Ⅱ 49 24 33 10 ? ? ? ? ? ? ? ? ? ? ? ? 66 Ⅱ 56 30 45 15 141 Ⅱ 55 23 40 13 67 Ⅱ 58 27 41 10 142 Ⅱ 66 30 44 14 68 Ⅰ 50 34 16 4 143 Ⅱ 68 28 48 14 69 Ⅰ 46 32 14 2 144 Ⅰ 54 34 17 2 70 Ⅱ 60 29 45 15 145 Ⅰ 51 37 15 4 71 Ⅱ 57 26 35 10 146 Ⅰ 52 35 15 2 72 Ⅰ 57 44 15 4 147 Ⅲ 58 28 51 24 73 Ⅰ 50 36 14 2 148 Ⅱ 67 30 50 17 74 Ⅲ 77 30 61 23 149 Ⅲ 63 33 60 25 75 Ⅲ 63 34 56 24 150 Ⅰ 53 37 15 2 表5.4.1 鸢尾花数据 本题中，n1=n2=n3=50，n=n1+n2+n3=150。经计算 E?1B的正特征值个数s≤min(k?1,p)=min(2,4)=2，可求得两个正特征值 λ1=32.192， λ2=0.285 相应的标准化特征向量 所以，中心化的费希尔判别式为 判别式的组均值为 对于任一样品x，可按下式进行判别： 由于n1,n2,n3都很大，因此用（5.2.7）式估计误判概率的效果还是不错的，判别情况列于表5.4.2。 所以 这些误判概率是比较低的。 判别为 Ⅰ Ⅱ Ⅲ 真实组 Ⅰ 50 0 0 Ⅱ 0 48 2 Ⅲ 0 1 49 表5.4.2 判别情况 我们可以将样本中150个样品的判别式得分(y1,y2)作一散点图，下图是SAS9.1的输出结果。图中，Can1,Can2分别是指y1,y2。组Ⅰ、组Ⅱ和组Ⅲ的点分别用“1”、“2”和“3”标出，有7个点隐藏在图中，因与图中某些点的位置几乎重叠而未能标出。 从图中可见，分离的效果相当好。对于一个新样品x0，可以用目测法从直觉上辨别其所归属的组。需要指出的是，对图形的目测法是费希尔判别的主要价值所在，图中常常能反映出计算中无法得到的丰富信息，从而可能会更有效地进行判别。 图5.4.2 鸢尾花数据两个判别式得分的散点图 §5.3 贝叶斯判别 一、最大后验概率准则 二、最小平均误判代价准则 距离判别不合适的一个例子 π1（校研究生组）：N1=2000, μ1=500 π2（校本科生组）：N2=8000, μ2=400 研究生组中x≥500的有1000人，本科生组中 x≥500的有2000人。某学生的x=500，试判别该生归属哪一组。 该例如采用距离判别法则显然不妥，应考虑利用如下的先验概率： 一、最大后验概率准则 设有k个组π1, π2,?, πk，且组πi的概率密度为fi (x) ，样品x来自组πi的先验概率为pi ,i=1,2,?,k，满足p1+p2 +?+pk =1 。则x属于πi的后验概率为 最大后验概率准则是采用如下的判别规则： 例5.3.1 设有π1、π2和π3三个组，欲判别某样品x0属于何组，已知p1=0.05，p2=0.65，p3=0.30，f1(x0)=0.10, f2(x0)=0.63，f3(x0)=2.4。现计算x0属于各组的后验概率如下： 所以应将x0判为组π3。 皆为正态组的情形 设πi~Np(μi,Σi)，Σi0, i=1,2,?,k。这时，组πi的概率密度为 fi(x）=(2π)?p/2|Σi|?1/2exp［?0.5d2(x,πi)］ 其中 d2(x,πi)=(x?μi)′Σi ?1 (x?μi) 是x到πi的平方马氏距离。 以下各情形下后验概率的具体计算公式。 当p1=p2=?=pk=1/k，Σ1=Σ2=?=Σk=Σ时， 当p1=p2=?=pk=1/k，而Σ1