总复习第四章优秀培训书.pptVIP

制作者-王筱丽 其中组间离差阵为 合并的组内平方和为 其中合并的组内离差阵为 因此，若k个总体（类）的均值有显著差异，则比值 应充分大。 ? 利用方差分析的思想，此问题化为求投影方向a ，使 ? (a) 达极大值。 ? 显然使? (a) 达极大值的解 a 不唯一。 ?若a 使 ?(a) 达极大, 则Ca (C是任意不为零常数)也使 ?( ? ) 达极大值, 故对a 附加一约束条件, 即选取 a , 使 a ?Aa = 1. 因此，问题化为求a , 使 ?(a) = a ?Ba 在 a ?Aa = 1约束条件下达极大. 二、线性判别函数的求法 已知 a 是在 a ?Aa = 1 条件下, 使 ?(a) = a ?Ba 达极大的方向， 称 u(X) =a ?X 为 线性判别函数。 设A-1B 的非零特征值为 ?1 ? ?2 ? ??? ? ? r 0 相应的满足约束条件的特征向量为 l1 , l2 , ??? , lr , 因此，以上极值问题化为求 A-1B的最大特征值和相应的特征向量问题。 取 a = l1 可使 ?(a) = a ?Ba达最大，且最大值为?1 , ? (a)的大小可衡量判别函数 u(X) =a ?X 的判别效果，故称 ?(a) 为判别效率。 结论1 ? 在费歇尔准则下, 线性判别函数 u(X) = a ?X 的解 a , 即为特征方程 | A-1B - ?I | = 0 的最大特征根?1 所对应的满足l1?A l1 = 1的特征向量 l1 ; ? 且相应的判别效率为? (l1 ) = ?1 . 在有些问题中, 仅用一个线性判别函数不能很好地区分 k 个总体, 这时可用第二大特征值? 2 , 所对应的满足l2?A l2 = 1的特征向量 l2 ,建立第二个线性判别函数 l2?X ; 如还不够, 建立第三个线性判别函数 l3?X ; 依此类推. 定义5.3.1 设A-1B 的非零特征值为?1 ? ?2 ? ??? ? ? r 0 其相应的满足约束条件的特征向量为 l1 , l2 , ??? , lr , 称 为线性判别函数 u1(X) = l1?X的判别能力;称 为前l 个(l ? r)线性判别函数 u1(X) = l1?X , ??? , ul(X) = ll?X的累计判别能力. 三、费歇尔判别准则 设A-1B 的非零特征值为 ?1 ? ?2 ? ??? ? ? r 0 其相应特征向量为 l1 , l2 , ??? , lr ( r ? min(m , k-1 ) ) 1.判别准则 I ( r = 1情况 ) 如果只有一个判别函数 u (X) = l ?X , 它将 m 元数据投影到一维直线上. 例如k = 2情况线性判别函数只有一个 . 1.判别准则 I ( r = 1情况 ) 例5.3.1 若 k = 2 , 试求费歇尔线性判别函数及其相应的判别效率. 解： 两总体的组间离差阵为 合并的组内离差阵为 A = A1 + A2 其中 由于B的秩为1, 故特征方程 | A-1B - ?I | = 0 的非零特征根只有一个. 因为 利用线性代数的结论: AB 和 BA的非零特征根相同知, A-1B 的非零特征根等同于 其中 (5.3.3)式为一个数值, 它就是欲求的特征根 ? . 记 l 为对应于? 的在l ?A l = 1 约束条件下的特征向量, 它满足 B l = ? A l 即 若取 , 不难看出它满足以上方程, 且 l ?A l = 1 . 于是得费歇尔线性判别函数为 且相应的判别效率为 例3:记二维正态总体N2(?(i),?i )为Gi (i=1,2)(两总体协差阵相同),已知来自Gi (i=1,2)的样本数据阵为 求： 例3: 例3: * * 应用多元统计分析 第四章 判 别 分 析 主讲人 ：王筱丽 一、马氏距离 定义5.1.1 (Mahalanobis距离) 设总体G 为 m元总体, 均值向量为? = (? 1 , … , ? m ) ? 协方差阵为? = (?i j) m?m , 则样品X = (x 1 , … , x m ) ?与总体 G 的马氏距离定义为 d 2 (X, G ) = (X- ? )? ? -1 (X- ? ) 当m = 1时, d 2(x, G ) = (x- ?)2 / ? 2 判别准则为 判 X?G1 , 当d 2(X, G1) d 2(X, G2) 时 ,