统计软件SAS讲义判别分析.pptxVIP

第十章判别分析Chap.ⅩDiscriminationAnalysis第一节距离判别分析方法第二节贝叶斯判别分析方法第三节逐步判别分析方法

第一节距离判别分析方法按照这种DistanceDiscriminationAnalysis思路发展出距l距离判别分析的基本思路：l在离判断方法。T2测验中计算的统计量是：T2＝n(x－μ0)’S－1(x－μ0)其中为x样本平均数向量，μ0为已知总体的平均数向量，S是样本方差协方差矩阵，它是总体方差协方差矩阵Σ的估计值。l如果样本的大小为n＝1，于是判定这个样本是否来自已知总体的判定标准便变成为：(x－μ0)’S－1(x－μ0)l推广到一个样品与一个类别A间，马氏距离平方为：(x－μA)’S－1(x－μA)

第一节距离判别分析方法DistanceDiscriminationAnalysisl设有k个已知的类别(记为G1，G2，…，Gk)，各类的平均数分别为μ1,μ2,…,μk，方差协方差矩阵为Σ1，Σ2,…,Σk。欲将某个样品x归入到这k类中的一类，其判别函数为马氏距离，判别准则为x∈Gj，当d(x，Gj)＝Min{d(x，Gi)}其中Min是对i＝1，2，…，k类的距离求极小值；d(x，Gi)＝[(x－xi)Σi－1(x－x)]i1/2。计算时用作xiμi的估计值，用Si作Σi的估计值。

第二节贝叶斯判别分析方法BayesDiscriminationAnalysis思路发展出距按照这种离判断方法。l贝叶斯判别分析的基本思路：l设有k个已知的类别(记为G1，G2，…，Gk)，它们具有概率分布函数f1(x)，f2(x)，…，fk(x)。又设某一样品x＝(x1，x2，…，xm)属于各个类别的概率分别为q1，q2，…，qk。如果将某种划分方式记为R＝{R1，R2，…，Rk}，于是判别规则为：x∈Gi，当x落在Ri(i＝1，2，…，k)

第二节贝叶斯判别分析方法贝叶斯判别法的BayesDiscriminationAnalysis目的是寻找一种划分方式R使总的平均损l贝叶斯判别分析的基本思路：失g(R)达到最小。l如果已知将原应属于Gi的样品误判为属于Gj所造成的损失为C(j|i)，造成这种误判的可能性为概率P(j|i,R)，则按这种划分方式把原应属于Gi的样品误判为属于其它类别的平均损失为kri(R)＝?C(j|i)P(j|i,R)j?1其中C(i|i)＝0，即不误判时损失为0。l因为样品x来自Gi的先验概率为qi，所以通过这种划分方式进行判别的总平均损失为kkg(R)＝??qiC(j|i)P(j|i,R)（i,j＝1,2,…,k）i??11j

第二节贝叶斯判别分析方法BayesDiscriminationAnalysisl贝叶斯判别法的计算步骤：、计算训练样本数据中各类的平均数向量；第一步第二步、计算训练样本数据中各类的离均差平方和矩阵；第三步、将各类的离均差平方和矩阵相加得合并的离均差平方和矩阵，用合并的离均差平方和矩阵除以合并自由度(n－k)得到方差协方差矩阵，并求出方差协方差矩阵的逆阵；第四步、求判别函数表达式。将所有训练样本回代进去，判别归类，进行检验；第五步、如果有待判数据，将其代入，并判别归类。

第三节逐步判别分析方法StepwiseDiscriminationAnalysisl与多元回归分析相似，在进行判别分析时，并不是变量越多越好。有些变量对于类别的划分有重要的意义，但有些变量却对判别分类起了干扰的作用，把它们引进到分析中，反而使分类之后的类内差异增大。因此，仿照逐步回归分析的思路，也开发了一种逐步判别分析方法。

第三节逐步判别分析方法StepwiseDiscriminationAnalysisl在含p＋1个变量的模型中，类内离均差平方和矩阵：?w11w12?w1pw1r??ww?ww??21222p2r?Qw＝??????????wp1wp2?wppwpr??wr1wr2?wrpwrr???l使其中虚线左上部分便是只含p个变量的模型中的类内离均差平方和矩阵个变量的模型中的类内离均差平方和矩阵l统计学已经证明：|Q(wp?1)|＝|Q(wp)|wrr。Q(wp)，而整个矩阵则是含p＋1Q(wp?1)。

第三节逐步判别分析方法StepwiseDiscriminationAnalysisl在含p＋1个变量的模型中，总的离均差平方和矩阵：?t11t12?t1pt1r??tt?tt??21222p2r??tp1tp2?tpptpr???tr1tr2?trptrr??Qt＝???????l使其中虚线左上部分便是只含p个变量的模型中的离均差平方和矩阵总的个变量的模型中的总的离均差平方和矩阵l统计学也已证明：|Qt(p?1)|＝|Qt(p)|trr。Qt