06判别分析幻灯片.pptVIP

判别分析(discriminate analysis) 广东药学院卫生统计学教研室 主要内容 判别分析实例 判别分析的基本思想 Fisher判别 Bayes判别 逐步判别 判别分析的考核 正确应用 第一节 判别分析的基本概念 1.什么是判别分析 判别分析是根据观测到的某些指标对所研究的对象进行分类的一种多元统计分析方法。在医学研究中经常遇到这类问题；例如, 临床上常需根据就诊者的各项症状、 体征、实验室检查、病理学检查及医学影像学资料等对其作出是否有某种疾病的诊断或对几种可能患有的疾病进行鉴别诊断，有时已初步诊断为某种疾病，还需进一步作出属该类疾病中哪一种或哪一型的判断。 判别分析的一般步骤 判别分析常用方法 （1）最大似然法 该法是建立在概率论中独立事件乘法定律的基础上， 适用于各指标是定性的或半定量的情况。 （2）Fisher判别分析 用于两类或两类以上间判别，但常用于两类间判别，上例中应用的就是Fisher判别分析方法。 （3）Bayes判别分析 用于两类或两类以上间判别，要求各类内指标服从多元正态分布。 判别分析数据格式 Fisher判别分析(二类判别) Fisher判别分析(二类判别) 判别函数(discriminant function) 判别准则 Fisher判别分析(二类判别) 类间差异大，类内变异小 方差分析的思想 Fisher判别分析(多类判别) 方差分析的思想 建立多个判别函数 判别准则复杂 实际应用较少 第二节 Bayes判别分析 (一). Bayes准则 设有定义明确的g个总体π1,π2,…,πg, 分别为X1,X2,…,Xp的多元正态分布。对于任何一个个体, 若已知p个变量的观察值,要求判断该个体最可能属于哪一个总体。 如果我们制订了一个判别分类规则, 难免会发生错分现象。把实属第i类的个体错分到第j类的概率记为P(j｜i),这种错分造成的损失记为C(j｜i)。 Bayes判别准则就是平均损失最小的准则。按照这个准则去找一种判别分类的规则,就是Bayes判别。 即g个线性函数的联立方程，每个线性函数对应于某一类别。其中C0j，C1j，……，Cpj，（j=1,2,……,g）为需估计的参数。用SAS的DISCRIM过程可得到这些参数的估计值。判别函数建立后通常的判别准则为：如欲判断某样品属于上述g类中的哪一类，可将该样品的各Xi值代入式(17.1)中的各个方程，分别算出Y1，Y2，……，Yg等值。其中如Yf为最大则意味着该样品属第f类的概率最大，故判它属于第f类。 事前概率（prior probability）又称先验概率。如在所研究的总体中任取一个样品，该样品属于第f类别的概率为q(yf)，则称它为类别f的事前概率。例如， 阑尾炎病人总体中卡他性占50％，蜂窝织炎占30％，坏疽性占10％，腹膜炎占10％; 则在该总体中任取一个阑尾炎病人，该病人属于以上四型的概率分别为0.5，0.3，0.1和0.1, 它们也分别是这四类的事前概率。 考虑事前概率时，判别函数如下式: (四). 事后概率 事后概率（posterior probability）又称后验概率。如果已知某样品各个指标Xi的观察值为Si，则在该条件下，样品属于Yj类别的概率P(Yj /S1,S2,…,SP)称为事后概率。事后概率和指标的值有关。 引入事后概率后，可用事后概率来描述某样品属于Yj类别的概率。这就使得判别的可靠性有一个数量的指标。 事后概率的计算公式为： Bayes判别分析 设有K个总体，G1，G2，…，GK 先验概率(Pk) P1，P2，…，PK 样本信息(各总体的概率密度函数) f1(X)， f2(X)， …，fK(X) 后验概率(样品X属于第k类的概率P(k/X)) Bayes判别分析 对某样品X，属于各类的后验概率之和为1 判别准则 将样品X判入后验概率最大的一类 Bayes判别分析 判别函数 先验概率Pk 概率密度函数fk(X) Bayes判别分析 判别函数 广义距离平方 Bayes判别分析 可以证明：使用合并的方差协方差矩阵时，Yk(X) 是X的线性函数，称为Bayes线性判别函数 Bayes判别分析 可以证明：使用类内的方差协方差矩阵时，Yk(X) 是X的二次函数，称为Bayes二次判别函数 Bayes判别分析 后验概率 Bayes判别分析 先验概率 等概率（先验无知） 频率(Pk＝Nk/N) 样本是总体的随机样本(无选择性偏倚)，样本量大 Logistic回归判别 逐步判别 从很多变量中筛选出重要作用的变量来建立判别函数，使判别函数的判别效果“最