判别分析专题知识归纳.docxVIP

判别分析专题 5.1引言 有一些昆虫的性别很难看出，只有通过解剖才能够判别； 但是雄性和雌性昆虫在若干体表度量上有些综合的差异。于是统计学家就 根 据己知雌雄的昆虫体表度量（这些用作度量的变量亦称为预测变量）得到一个标 准，并且利用这个标准来判别其他未知性别的昆虫。 这样的判别虽然不能保证百分之百准确，但至少大部分判别都是对的，而 且 用不着杀死昆虫来进行判别了。 在科学研究和日常生活中，我们经常会遇到对观测到的样品数据进行判别分类的问题。例如, 在经济学中，可根据各国的人均国民收入、人均工农业产值和人均消费水平等多种指标来判左一 个国家经济发展程度的所属类型：在人口学中，可根据平均预期寿命、经济水平和婴儿死亡率等 因素来判定这个地区人口死亡水平的所属类型：在医学上，经常要根据想者的不同症状和化验结 果等多项指标来诊断其患病类型：在气象学中，要根据最近的一些气象资料来判断明天是否会下 雨；等等。所有这些问题一般都可以应用统计学中的判别分析方法予以解决。由于判左一个样品 的归属一般需要依据样品的多项指标，其统计推断及分析也是按这些指标来进行的，所以将判别 分析放在多元分析中讨论是合适的。判别分析要解决的问题是在已知历史上用某些方法已把研究 对象分成若干组的情况下，来判左新的观测样品应归属的组别。 从概率统计的角度来看，判别分析问题可以归结为：设有￡个组（或总体）叭，；T2,...,心, 所有组的样品都测疑了相同的”个指标，可表示为一个〃维向量，这R个组的分布函数分别是仟 （对,巧匕），…，耳（X），均为〃元分布函数，对于给左一个新样品八 要求判断它属于哪一组。 本章将介绍距离判别、贝叶斯（Bayes）判别和典型判别等几种常用的判别分析方法。 5.2距离判别 一、马氏距离的概念 通常情况下，我们所说的距离一般是指欧氏距离，即。维欧氏空间中两点兀二（山，％2,???-0 和y二（比，儿，…，儿）’之间的平方距离度量为 dy） = -*!） 2 + （X2 -y2）2 +- -+ （xP-yP） 2 （521） 但是在统计学，特别是在多元分析中，有时用欧氏距离显得不太合适，下面我们用一个例子 来说明之。 设有两个正态总体，X、Ngb、，现有一个样品位于如图5J 丈档 所示的A点，距总体x的中心2o■远，距总体y的中心3o■远，那么，A点处的样品到底离哪一 个总体近呢？若按欧氏距离来度量，A点离总体x要比离总体y “近一些”。但是，从 概率论的 角度来看，A点位于M右侧的2b*处，而位于左侧1?5o\.处，应该认为A点离总体y “近一些”。 显然，后一种度量更合理些。为此，我们引入一种由印度著名统计学家马哈拉诺比斯 图5」 设是从均值为“，协方差矩阵为工（＞0）的总体兀中抽取的两个样品（〃维），则总体穴内 两点x与y之间的平方马氏距离泄义为 d （x, y） = （x-y） r- （x-y） （5.2.2） N义点X到总体兀的平方马氏距离为 Cl2 （x,穴）=（x-H） （5.2.3） 二、两组距离判别 设组叭和?的均值分别为“I和“2,协方差矩阵分别为百和工2 （纭，工2＞。），％是一个新样品 （〃维），今欲判断它来自哪一组。 1. 工〃 2 ,工1二力2二工 一个直观的想法是计算新样品X到两个组的平方马氏距离〃 2匕，街）和〃 2（乙龙2）,并 按如下的判别规则进行判断 若d2 （乂,龙1） S〃（x,，C?）xe 龙2 ,者d2 （兀 街）〉〃 2 （x, zr2） 为简化上面的表述，考虑，（工码）与，（兀，心）之间的差，有 (5.2.4 ) 〃（乙眄）一〃，（兀兀2） = (X-])才 1 ( X ?])?(X ? 2 )工〃 (A —//2 ) =*S?】x.2x、S?7/1 + ]为-Aa-ZS?iX-2X‘S?i〃2 4-//2 X1//, =_2 尤才 ]+ r\ 为」]一 (一 2 止*2 + “2 工?) =_2 牙于 p、工」]+ _〃2S-〃2 =(-2A- S-，A+2xh2 ) + ( ; ▽/?2‘ 占 “2 ) =-2VZ-】(“]? “2 ) + (“1 + “2 )工〃 (“I 一 “2 ) 9 =-2x-~ ~ -■ s-1 (//I -y/2) (“I ? 2 ) =2 (x “)Ha 二一 2心（X?） 备注: ?“2 )工5 f +弘） r f 二工T“] + i工S -心I?T.d工S f r =P\ 工 S+H 工 T〃2 — f 9 二〃工T “厂“2工T“2 f f “]工 *2?2H“2 同理 (“l+2)‘工「〃 (〃,一f f =“￡T ? ” 1 厂2 +“2 工 S f 9 二工 S - i 工 T2 +]工 f f =A1 工 T 厂〃2工 T“2 “？) r - “2