应用多元统计分析习题解答_判别分析.docVIP

第四章 判别分析 4.1 简述欧几里得距离与马氏距离的区别和联系。 答： 设p维欧几里得空间 QUOTE 中的两点X= QUOTE 和Y= QUOTE 。则欧几里得距离为 QUOTE 。欧几里得距离的局限有 = 1 \* GB3 ①在多元数据分析中，其度量不合理。 = 2 \* GB3 ②会受到实际问题中量纲的影响。 设X,Y是来自均值向量为 QUOTE ，协方差为 QUOTE 的总体G中的p维样本。则马氏距离为D(X,Y)= QUOTE 。当 QUOTE 即单位阵时，D(X,Y)= QUOTE = QUOTE 即欧几里得距离。 因此，在一定程度上，欧几里得距离是马氏距离的特殊情况，马氏距离是欧几里得距离的推广。 4.2 试述判别分析的实质。 答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。设R1，R2，…，Rk是p维空间R p的k个子集，如果它们互不相交，且它们的和集为 QUOTE ，则称 QUOTE 为 QUOTE 的一个划分。判别分析问题实质上就是在某种意义上，以最优的性质对p维空间 QUOTE 构造一个“划分”，这个“划分”就构成了一个判别规则。 4.3 简述距离判别法的基本思想和方法。 答：距离判别问题分为 = 1 \* GB3 ①两个总体的距离判别问题和 = 2 \* GB3 ②多个总体的判别问题。其基本思想都是分别计算样本与各个总体的距离（马氏距离），将距离近的判别为一类。 = 1 \* GB3 ①两个总体的距离判别问题 设有协方差矩阵∑相等的两个总体G1和G2，其均值分别是?1和? 2，对于一个新的样品X，要判断它来自哪个总体。计算新样品X到两个总体的马氏距离D2（X，G1）和D2（X，G2），则 X QUOTE ，D2（X，G1） QUOTE D2（X，G2） X QUOTE ，D2（X，G1） D2（X，G2， 具体分析， 记 则判别规则为 X QUOTE ，W(X) QUOTE X QUOTE ，W(X)0 = 2 \* GB3 ②多个总体的判别问题。 设有个总体，其均值和协方差矩阵分别是和，且。计算样本到每个总体的马氏距离，到哪个总体的距离最小就属于哪个总体。 具体分析， 取，，。 可以取线性判别函数为 ， 相应的判别规则为 若 4.4 简述贝叶斯判别法的基本思想和方法。 基本思想：设k个总体，其各自的分布密度函数，假设k个总体各自出现的概率分别为，，。设将本来属于总体的样品错判到总体时造成的损失为，。 设个总体相应的维样本空间为 。 在规则下，将属于的样品错判为的概率为 则这种判别规则下样品错判后所造成的平均损失为 则用规则来进行判别所造成的总平均损失为 贝叶斯判别法则，就是要选择一种划分，使总平均损失达到极小。 基本方法： 令，则 若有另一划分， 则在两种划分下的总平均损失之差为 因为在上对一切成立，故上式小于或等于零，是贝叶斯判别的解。 从而得到的划分为 4.5 简述费希尔判别法的基本思想和方法。 答：基本思想：从个总体中抽取具有个指标的样品观测数据，借助方差分析的思想构造一个线性判别函数 系数可使得总体之间区别最大，而使每个总体内部的离差最小。将新样品的个指标值代入线性判别函数式中求出值，然后根据判别一定的规则，就可以判别新的样品属于哪个总体。 4.6 试析距离判别法、贝叶斯判别法和费希尔判别法的异同。 答： = 1 \* GB3 ① 费希尔判别与距离判别对判别变量的分布类型无要求。二者只是要求有各类母体的两阶矩存在。而贝叶斯判别必须知道判别变量的分布类型。因此前两者相对来说较为简单。 = 2 \* GB3 ② 当k=2时，若 QUOTE 则费希尔判别与距离判别等价。当判别变量服从正态分布时，二者与贝叶斯判别也等价。 = 3 \* GB3 ③ 当 QUOTE 时，费希尔判别用 QUOTE 作为共同协差阵，实际看成等协差阵，此与距离判别、贝叶斯判别不同。 = 4 \* GB3 ④ 距离判别可以看为贝叶斯判别的特殊情形。贝叶斯判别的判别规则是 X QUOTE ，W(X) QUOTE X QUOTE ，W(X)lnd 距离判别的判别规则是 X QUOTE ，W(X) QUOTE X QUOTE ，W(X)0 二者的区别在于阈值点。当，时，，。二者完全相同。 4.7 设有两个二元总体 QUOTE 和 QUOTE ，从中分别抽取样本计算得到 QUOTE ,, QUOT