模式识别-第12讲-基于K-L展开式的特征提取精要.ppt

训练阶段 5 训练样本 向 空间投影得到： 识别阶段 1测试样本 向 空间投影后得到样本W的特征矩阵 和主成分分量 ： 识别阶段 2根据测试样本投影特征矩阵与所有训练样本投影特征矩阵之间的最小距离来判断测试样本所属的类别。定义如下的距离度量准则: 其中 表示两个特征向量之间的欧氏距离。 K－L变换的一些典型应用 4．人脸图象合成 用K-L变换构造参数模型的另一种典型用途是人脸图象合成。从下面的例子中可以看出，有目的地控制各个分量的比例，也就是通过调整参数向量。可以将一幅不带表情图象改变成带各种表情的图象，称为人脸表情图象合成。 下图为生成各种表情图象的示例。 K－L变换的一些典型应用 K－L变换总结： 本节课结束 谢谢大家！ 变换是一种工具，它的用途描述信号。 描述事物的基本方法之一是将复杂的事物化成简单事物的组合, 或对其进行分解，分析其组成的成分。 变换的实质是一套度量用的工具。在信号处理中用高频，低频或常量来衡量一个信号中的各种不同成分。 * 谐波：一个数学或物理学概念，指周期函数或周期性的波形中不能用常数、与原函数的最小正周期相同的正弦函数和余弦函数的线性组合表达的部分。 基波：将非正弦周期信号按傅里叶级数展开，频率与原信号频率相同的量。 复合波的最低频率分量。　　在复杂的周期性振荡中,包含基波和谐波。和该振荡最长周期相等的正弦波分量称为基波。相应于这个周期的频率称为基本频率。频率等于基本频率的整倍数的正弦波分量称为谐波。 * * 用变换对信号进行分析，所使用的数学工具是点积。点积的实质就是两个信号中相同成分之间乘积之总和。 * * * * 基本原理是:利用K-L变换抽取人脸的主要成分，构成特征脸空间，识别时将测试图像投影到此空间，得到一组投影系数，通过与各个人脸图像比较进行识别。 * 特征脸图像，即特征向量对应的图像（特征向量的维数和样本的维数是一样的） * 2012.11.02第10周星期五 理学院第13次课结束！ * K-L坐标系的生成 数据集合{x}的K-L坐标系是由二阶统计量来确定的。可以使用以下几种方法来生成K-L坐标系： 样本所属类别未知时： 1、可以使用样本的自相关矩阵 2、对于无类别标签的样本集，均值向量无意 义，也常使用协方差矩阵 样本所属类别已知时： 可以使用各种二阶矩，得到不同的K-L坐标系 1、使用总类内离散度矩阵 使用条件： （1）样本集合{x}有类别标签 （2）各类的先验概率已知 （3）均值向量已知 （4）协方差矩阵已知 2、每次使用一个类别样本集合来建立K-L坐 标系。 该K-L变换常用于信息压缩，很少用于分类。 未知类别样本的K－L变换举例 用总体样本的协方差矩阵C=E[(x-μ) (x-μ)T]进行K-L变换，K-L坐标系U=[u1,u2,...,ud]按照C的本征值的下降次序选择 例：设一样本集的协方差矩阵是：求最优2x1特征提取器U解：计算特征值及特征向量[V, D]=eig(C);特征值D=[24.736, 2.263]T,特征向量:由于λ1λ2，故最优2x1特征提取器此时的K-L变换式为： 基于K－L变换的数据压缩举例 给出样本数据如下： 试用K-L变换作一维数据压缩。 思路：1）求总体均值向量；2）求产生矩阵ψ ； 3）求产生矩阵的特征值λi 及特征向量 ； 4）按λi排序，确定变换矩阵W； 5）利用 求新的一维样本。 K－L变换的一些典型应用 上面我们从数学的角度分析了K-L变换的性质。归结起来，它消除了各分量之间的相关性，因而用它来描述事物时，可以减少描述量的冗余性，做到用最经济有效的方法描述事物。下面结合一些应用实例来说明如何运用K-L变换的这一性质。 K－L变换的一些典型应用 以人脸图象这个例子看，K-L变换的降维效果是十分明显的。对一幅人脸图象，如果它由M行与N列象素组成，则原始的特征空间维数就应为M×N。而如果在K-L变换以后只用到30个基，那么维数就降至30，由此可见降维的效果是极其明显的。 另一方面降维与数据压缩又是紧密联系在一起的。譬如原训练样本集的数量为V，而现采用30个基，每个基实质上是一幅图象，再加上每幅图像的描述参数，数据量是大大降低，尤其是图象数很大时，压缩量是十分明显的。 1．降维与压缩 K－L变