《模式识别原理、应用及实现》 课件 6.4KL变换的特征提取.pptVIP

6.4KL变换特征提取武汉理工大学对一类模式：维数压缩。对多类模式：维数压缩，突出类别的可分性。特征提取的目的：卡洛南-洛伊（Karhunen-Loeve）变换（K-L变换）：*一种常用的特征提取方法；*最小均方误差意义下的最优正交变换；*适用于任意的概率密度函数；*在消除模式特征之间的相关性、突出差异性方面有最优的效果。离散K-L变换连续K-L变换分为：1．K-L展开式aj：随机系数；用有限项估计X时：引起的均方误差：代入X、，利用由两边左乘得。uj为确定性向量R：自相关矩阵。：拉格朗日乘数说明：当用X的自相关矩阵R的特征值对应的特征向量展开X时，截断误差最小。选前d项估计X时引起的均方误差为K-L变换方法：对R的特征值由大到小进行排队：均方误差最小的X的近似式：矩阵形式：式中，，。其中：（5-49）——K-L展开式对式(5-49)两边左乘Ut：——K-L变换系数向量a就是变换后的模式向量。