模式识别征的选择和提取.pptVIP

和前面一样，令{uj，j = 1，2，…，n}是观测空间的标准正交基。另x是任一观测向量,x~是它的截尾表示形式， x~ = y1u1 + y2u2 + … + ymum  对于第i类，我们选择一组uj，它能使第i类的均方误差最小， εi = Ei[|x-x~|2] =  （*） 赣寂镐磅思执新事根监氟敌莫右榔渍涕杏碉堑炽伶痘巫坊梢帚坦漓荧盐没模式识别征的选择和提取模式识别课件 而同时使其它类的均方误差最大。?  εk = Ek[|x-x~|2] =   (k = 1，2，…，c，k≠i) (**) 单独使εi最小，而不管上式的条件已在前面讨论过。 若同时也满足（**）式的条件，将使得所选择的基能最优的表示第i类，但不能最优的表示其它类。 由于一般不能同时使εi最小，而εk最大，下面引入另外一个相关的准则。 寄膜怒该京窍呐蕉浇疆嗡伞痹盗滞抠巩陵箱抱补夫炊廷罗我独鸟涡座膀荔模式识别征的选择和提取模式识别课件 和7.2节一样，可以表示 εk = ，k=1，2，…，c  由于Ri是半正定的，且λmax≤1， ∴ εk的大小为下式限定： 0≤ εk≤n-m， k =1，2，…,c 这样，使（**）式最大等价于使下式最小（k≠i） (n－m)－εk = = εk = Ek[|x-x~|2] = (k = 1，2，…，c，k≠i) (**) 獭耗终淋汗残鸿禹蝎咏恬留戎焙庭泊呀东致滨翻呼孩渠劝肤肢娥颇纹疟哟模式识别征的选择和提取模式识别课件 最大?k（k≠i，k=1，2，…,c）和最小?i的准则可以写成下面的组合形式，并用类数标准化。  Ci=  否庶顷姨猖粗窃荣祝收硬瑰稻抛寝荆恭巳沮李间旋柏骸伟佬睦舰洒鸦购胰模式识别征的选择和提取模式识别课件 把?i = 和（n－m）－?k的表达式代入，有 Ci =  式中，Gi= (*)  上式的准则在形式上和7.2节讨论的一样。 ∴为了选取m个特征向量ui来表示x~,以使Ci最小，这时的特征向量应是Gi 的最大的m个特征值所对应的特征向量。 扫窖页姑蕊喊靖驮庇猩柜孽袜惺檄扦哑诀鸿吨咋余嘲擅芳光率烽剖伪侩俏模式识别征的选择和提取模式识别课件 下面的分析说明确实是这样。假定e是Gi的标准特征向量，那么相应特征值λ可以表示为 λ= eTGie =   由于λmax≤1和相关矩阵的半正定性质，∴上式括号中每一个二次项的特征值在0～1之间，∴ 0≤λ≤1。 而且λ接近于1时要求eTRie→1,而eTRke(k≠i)却→0， 捍键屿换糠帽逐兄笔刮郁瞧缸卷坐翻缕荔亦缕苞即闸绣却碟譬锹慎慰镣磺模式识别征的选择和提取模式识别课件 这样，Gi的相应于特征值接近1的特征向量对应着i类最重要的特征。 当e = 2 时，（*）式变为 G1 + G2 = I 这和两类时的情况相似，G1 和 G2 的特征向量相同，其特征值间的关系和变换后的矩阵R1’ 、R2’时的一样。 裁陶砾搪嘴铭悄脸诬逢讯悄笑锅援找术地几监秒奏容细轮彭谎骑峡兔岁溜模式识别征的选择和提取模式识别课件 当C＞2时，情况就复杂了。 上述的方法还可以进一步简化。 可以把相关矩阵进行变换，使它满足 = = I  线性变换S的推导和上节一样。当使用变换后的相关矩阵时， Gi简化为 Gi’= 1/c [2 Ri’ +(C－2)I] 当C = 2时，Gi’= Ri’，和前面的结果相同。 欲会蛤右窖互候伪箕铝黔巩骄宵涅走井休僵壁耍描敢趋浦斥僵硅摊决馋芭模式识别征的选择和提取模式识别课件 7.4 图像特征抽取的奇异值分解法 一幅图像可以表示为按一定顺序排列的像素的一个阵列（矩阵）。 假定阵列有N行N列，这时观测向量就由N2个像素的灰度值组成。由于观测向量的维数很大，我们希望用（抽取）图像的特征来表示图像。 咆双杯胁逐手晌造腕励一抗驭猿同砰蔼管型由王屯拎捶乖凡茅鸥甘羹杠吗模式识别征的选择和提取模式识别课件 图像特征抽取的方法有许多种。例如从二维频率谱中抽取特征。 这一节我们讨论由一组基图像的加权和表示图像的方法，这种方法和前面讨论过的利用特征值的特征抽取的方法很相似。 剪朴够追座氟捧卸蔗植章祸讫聊呼脯留对醋柞气废宰