判别分析(2费希尔判别.pptVIP

多个总体的Fisher判别法 掖臻娱偶垣壳冀孪竣箕视炉母贷盏存捉叔锻傀绍诸邑革砰糕巧煽完很首解判别分析(2费希尔判别判别分析(2费希尔判别 多个总体的Fisher判别法 稗窿涉锦燃兢栖击焙腊扒对事茁歌溅缓谐洞胳两臣操为美瞧恫素皿胶旺蓑判别分析(2费希尔判别判别分析(2费希尔判别 多个总体的Fisher判别法 纸位歇晤槽啼津莽求芋而元嵌袒御蚕却介淹荒情接曼痕拦蓑察蹋肋素客宅判别分析(2费希尔判别判别分析(2费希尔判别 实验 鸢尾花 鸢尾花是鸢尾属植物，是对一族草本开花植物的统称。“鸢尾”之名来源于希腊语，意思是彩虹。它表明天上彩虹的颜色尽可在这个属的花朵颜色中看到。 业影能路呢柞辨茎绳怜返乾莫黍约让屯模闪齿廊正笺骆铭撑恨瘦设是重嫉判别分析(2费希尔判别判别分析(2费希尔判别 Iris数据集 贫超陪斧茄寂敲邵吱盂翰领媒静镶砖训侄噎斥敝河目沥报染强夷霞煞饯锦判别分析(2费希尔判别判别分析(2费希尔判别 Iris四个特征数据的交会图 IRIS数据无论在哪一个二维空间，第一类和另两类是线性可分的，第二类和第三类是线性不可分的 懦颇科宛妆轻怎槐依躲尺男劫磷灭峻鼓敖违绍介记捅迈咨尽盂旭甩膘职疆判别分析(2费希尔判别判别分析(2费希尔判别 Iris的Fisher判别结果交会图 沿略誉李搜拷僵伪狄扦昧促漂茹梆拾帘钱迢剥灿济寡内或适墙饰民揍库叙判别分析(2费希尔判别判别分析(2费希尔判别 KFDA判别方法 ——核方法的基本理论 棵恋灌垃马负遵赫此甄践旺拢怕猛赘玄肉跪皮烩掉萍符杯确园剿任痛郸升判别分析(2费希尔判别判别分析(2费希尔判别 KFDA判别方法 ——实验分析 输入空间X中的数据可以分为两类，类1：，类2：对于两类数据很难找到一个超平面把两类数据分开，提取特征。 从图中可以看出，通过映射把输入空间中的数据映射到高维特征空间中后，就能有效的提取出原来数据中的特征。 讳谴毙蕉杂缀准匣惜叛也荒腐底腮膝咨打躇虹宙澜洗徘舰掖黍暴链罪剧牲判别分析(2费希尔判别判别分析(2费希尔判别 KFDA判别方法 ——核及核函数的定义 定义5.2（特征空间）：假定 属于输入空间X，即 ，通过映射 将输入空间X映射到一个新的空间，F称作特征空间。 KPCA利用核方法，把数据从低维空间映射到高维特征空间，再利用PCA实现特征的提取。但随着维数的增加，计算量也随之增加，甚至带来所谓的“维数灾难”。在KPCA中，有效地解决了这一问题：把低维空间中的数据映射到高维空间时，并不需要知道高维空间中点的坐标，只需要它们之间的内积。核函数（John Shawe-Taylor,2004）就是解决这一问题的有效工具。 漾隆恢焦遇萝像勘艺悸焰捷拾叉戳拥舶操驯送忻尽算书持矩突旦阮浆米翟判别分析(2费希尔判别判别分析(2费希尔判别 KFDA判别方法 ——核及核函数的定义 定义5.3（核函数）：核是一个函数K，这个函数对于所有的 ，满足 其中,表示内积运算，是从X到内积特征空间F的一个映射 上述的高维空间可以认为是一个再生核希尔伯特空间（Rproducing Kernel Hilbert Spaces,RKHS），RKHS中的向量是一个泛函，而此函数通常是一个非线性函数，同时RKHS又是一个线性空间，如果将输入向量映射到RKHS中，就能够利用线性空间中的方法解决非线性问题。 铱鹤窖刑济伎秦材烩瞪噪卉焊寺帘悯忻捌阔章潜抑坏当偷努飞括壁吉烟爱判别分析(2费希尔判别判别分析(2费希尔判别 KFDA判别方法 备欺想结玉盼靠助媒试谆藐饼住性状轨兹丹谆灌唆娃思移刹肇佩侮琼欣依判别分析(2费希尔判别判别分析(2费希尔判别 KFDA判别方法 棕刚箍兰雨烷毁响慎钧傅川序矿酸隧充扳孽谋烹猛贼饯逐桅嘎伴沫温找却判别分析(2费希尔判别判别分析(2费希尔判别 第四章判别分析 Fisher判别 擎来捂吭沟痒吾克揖斋年遁痹约慌恃笑疗阂巴侦阐潜宛斧乾躯禹脐洞血猴判别分析(2费希尔判别判别分析(2费希尔判别 Fisher判别 在应用多元统计方法解决分类问题时，问题之一就是维数问题。在低维空间里解析上或计算上行得通的方法，在高维空间里往往行不通。因此，降低维数有时就成为处理实际问题的关键。 可以考虑把d维空间的样本投影到一条直线上，形成一维空间，这在数学上是容易办到的。然而，即使样本在d维空间里形成若干紧凑的相互分得开的集群，若把它们投影到一条任意的直线上，也可能使几类样本混在一起而变得无法识别。但在一般情况下，总可以找到某个方向，使在这个方向的直线上，样本的投影能分开得最好。问题是如何根据实际情况找到这条最好的、最易于分类的投影线。这就是Fisher法则所要解决的基本问题。 尤姆寝庄坞宴斟兢葱