[经济学]判别分析法预测.ppt

判别分析法预测(Discriminant Analysis) 第九讲 zjchencs@ 陈志军 YOUR SITE HERE 主要内容 第一节 引言第二节 费歇两组判别第三节 贝叶斯多组判别 和逐步判别的基本概念 YOUR SITE HERE 第一节 引言 YOUR SITE HERE 预处理 特征提取 桔子 橙子 训练（学习） 这是一个学习和预测的过程。 YOUR SITE HERE 回归分析——定量预报 判别分析——定性预报 模式识别 在许多自然科学和社会科学问题的研究中，我们所关心的不是样品的某一指标数值的多少，而是其类别、归属。 生物学：各类性状→物种类别 医学：各类症状→SAS、猪流感 地质学：岩石分类、地层时代、断层性质、有矿无矿预测 气象学：天气预报是晴、阴、雨？ YOUR SITE HERE 在地学领域中，经常面临着大量的分类问题，即对一定量的事物(如地质体、样品或变量)按其属性进行归类。 由于地质对象的复杂性，单靠定性标志或少数定量标志进行分类，常常不能揭示客观事物内在本质的差别和联系，难以确定地质体本质属性的归属。同时也造成很多分类计算具有很大的主观性和任意性，而且所得的结果因人而异，常不能反映客观实际情况。 YOUR SITE HERE 在对地质对象的类型研究中，有两大类方法。 一类是聚类分析（或称点群分析，群分析） 另一类就是判别分析。 判别分析的主要思想是用统计方法将待判的未知样品与已知类型的样品进行（定量）类比，以确定待判样品应归属于其中哪一类。 YOUR SITE HERE 全碱－硅图解（TAS） YOUR SITE HERE YOUR SITE HERE 最简单的情形下，单就一个变量的值就可区分不同的类别。 但是，通常情况下，一个变量往往难于区分不同的分类，只有利用多个变量，才能比较全面从各个不同的角度刻画个母体间的差异。 在传统的地质学研究中，四元以上的系统用几何图形表示变得十分困难。 用适当的数学方法从多个变量中提出有关判别分类的有效信息，综合成一个像单变量那样好用的判别标准。 YOUR SITE HERE 判别分析法所要解决的问题是对样品的分类，其特点为：在已知研究对象的条件下，确定未知对象属于已知分类中的哪一类。 在包括矿床预测在内的各类地质研究中，经常遇到这类问题。 判别分析中的“类比法”思想与传统地质学中所用类别法的不同： ①定量；②综合考虑多种因素或标志；③以某种最优化准则作分类基础 YOUR SITE HERE YOUR SITE HERE 磁异常指数对数值 →x1 x2 ↑ 训练样本 闪长玢岩出露面积比 A总体，有矿 B总体，无矿 有矿否？ YOUR SITE HERE 磁异常指数对数值 闪长玢岩出露面积比 →x1 x2 ↑ YOUR SITE HERE 判别分析也是一种类比法，它是从定量角度，综合考虑多种地质变量或标志，按照某种最优化判别准则作为分类基础，来进行分析的。其判别准则分为两类： 费歇准则（R.A.Fish，1936）和贝叶斯准则。 判别分析特点：定量类比、定性预报 YOUR SITE HERE 第二节 费歇两组判别 YOUR SITE HERE 费歇判别思想是投影，使多维问题简化为一维问题来处理。 选择一个适当的投影轴,使所有的样品点都投影到这个轴上得到一个投影值。对这个投影轴的方向的要求是：使每一类内的投影值所形成的类内离差尽可能小，而不同类间的投影值所形成的类间离差尽可能大。 费歇判别的基本思想 YOUR SITE HERE R0 寻找一个方向，也就是图上的虚线方向，沿着这个方向朝和这个虚线垂直的一条直线进行投影会使得这两类分得最清楚。 可以看出，如果向其他方向投影，判别效果不会比这个好。 所谓Fisher判别法，是一种先投影，后用距离判别的方法。 R = c1x1 + c2x2 YOUR SITE HERE 考虑指标与p个自变量有关的两类判别：设指标y按其取值范围只分为A、B两类，对A、B两类分别有nA,nB个样品数据。 Fisher提出，建立p个因子的一个线性判别函数 其中判别系数cj(j=1,2,..,p)的选择应使得y值满足： （1）A类与B类这两类点群尽可能地远离， 即两类点群重心间距离尽可能达到最大； （2）同一类的样品点尽可能集中。 [(1)(2)两点统称为Fisher准则] 一、费歇准则准则与准则下的两类判别线性模型 YOUR SITE HERE 其中 组间离差平方和（尽可能大） 样本总离差平方和（尽可能小） YOUR SITE HERE 要同时满足费歇判别准则的两个条件，要求 达到最大 YOUR SITE HERE 二、两类判别函数的参数估计 I是y的函数，也是cj的函数。 根据极值原理，I取极大值的条件是 I对系数cj的偏导数为0