概率论与数理统计_9.docVIP

概率论与数理统计5 1 4 第五章判别分析什么是判别分析 在气象学中由气象资料判断明天是阴天还是晴天 是有雨还是无雨 在市场预测中由调查资料判断下季度或下个月产品是畅销平常或滞销 股票持有者根据某种股票近期的变化情况判断此种股票价格下一周是上升还是下跌 在环境科学中由气象条件污染浓度等判断该地区是属严重污染一般污染还是无污染 在地质勘探中由岩石标本的多种特征判断地层的地质年代是有矿还是无矿是富矿还是贫矿 在体育运动中由运动员的多项运动指标来判定游泳运动员的苗子是适合练蛙泳仰泳还是自由泳等5 第五章判别分析什么是判别分析 判别分析是应用性很强的一种多元统计方法 已渗透到各个领域但不管是哪个领域判别分析问题都可以这样描述 设有k个m维总体G1G2Gk其分布特征已知如已知分布函数分别为F1xF2xFkx或知道来自各个总体的训练样本对给定的一个新样品X我们要判断它来自哪个总体 在进行判别归类时由假设的前提判别的依据及处理的手法不同可得出不同判别方法如距离判别Bayes判别Fisher判别或典型判别逐步判别序贯判别等 本章介绍几个常用的判别方法6 §51 距离判别法 距离判别的基本思想是 样品和哪个总体距离最近就判它属哪个总体 距离判别也称为直观判别法 我们在具体讨论距离判别法之前应给出合理的距离的定义7 示例8 9 §51 距离判别法马氏距离 已知有两个类G1和G2比如G1是设备A生产的产品G2是设备B生产的同类产品设备A的产品质量高如考察指标为耐磨度X其平均耐磨度μ180反映设备精度的方差σ21025设备B的产品质量稍差其平均耐磨度μ275反映设备精度的方差σ224今有一产品X0测得耐磨度x078试判断该产品是哪一台设备生产的 直观地看x0 与μ1设备A的绝对距离近些按距离最近的原则是否应把该产品X0 判断为设备A生产的 10 §51 距离判别法马氏距离 考虑一种相对于分散性的距离记X0与G1 G2的相对平方距离为d21x0或d22x0则 d21x0 1642 d22x0 因为d2x0154 d1x0 按这种距离准则应判X0为设备B生产的 x0 -μ12 σ21 78 - 802 025 x0 -μ22 σ22 78 - 752 4 11 §51 距离判别法马氏距离 设备B生产的产品质量较分散出现x0为78的可能性仍较大 而设备A生产的产品质量较集中出现x0为78的可能性较小 判X0为设备B的产品更合理 这种相对于分散性的距离就是本节介绍的马氏距离12 §51 距离判别法马氏距离 一般地我们假设G1的分布为Nμ1σ21G2的分布为Nμ2σ22则利用相对距离的定义可以找出分界点μ不妨设μ2μ1当μ2xμ1时令而按这种距离最近的判别准则为13 §51 距离判别法利用马氏距离对两个一维正态总体判别归类示意图 利用马氏距离对两个一维正态总体判别归类令 μ 79为到两总体相对距离相等的分界点 x078μ79 判x0∈G2 14 §51 距离判别法马氏距离 com马氏距离 设总体G为m维总体考察m个指标均值向量为μμ1μ2 μm′协方差阵为∑σij则样品Xx1x2xm′与总体G的马氏距离定义为15 §51 距离判别法多总体样本特征量 设有k个总体Gii1k已知来自Gi i1k 的训练样本为 其中ni是取自Gi的样品个数则均值向量μi的估计量为16 §51 距离判别法多总体样本特征量 总体Gi的协方差阵∑i的估计Si为并称St为组内协差阵 称为组内离差阵 17 §51 距离判别法多总体样本特征量 当假定∑1∑k∑时反映分散性的协方差阵∑的估计S为并称S为合并样本协差阵 问题是对任给定的m维样品Xx1x2 xm ′要判断它来自哪个总体其中18 §51 距离判别法 两总体判别∑1∑2 时的判别方法 最直观的想法是分别计算样品X到两个总体的距离d21X和d22X 或记为d2XG1和d2XG2 并按距离最近准则判别归类即判别准则为 判X∈G1 当d2XG1 d2XG2时 待判 当d2XG1 d2XG2时 这里的距离