kl变换应用于人脸识别.docxVIP

基于 K-L 变换的人脸识别 一、基本要求 从网上下载人脸图像， 构建人脸训练数据库和测试数据库， 采用 K-L 变换进行特征脸提取，并实现人脸识别。 通过 K-L 变换在人脸识别中的应用， 加深对所学内容的理解和感性认识。 1、或者从网上下载其它数据库，编程实现 K-L 变换。 2、课堂报告、并提交实验报告及相应程序。 二、实验原理 1、K-L 变换： 就是以样本特征向量在特征空间分布为原始数据，通过变换，找到维数较少的组合特征，达到降维的目的。 K-L 变换是一种正交变换，即将一个向量 X ，在某一种坐标系统中的描述，转换成用另一种基向量组成的坐标系表示。 这组基向量是正交的， 其中每个坐标 基向量用 u j 表示， j 1,2， , ，因此，一个向量 X 可表示成 c j u j j 1 如果我们将由上式表示的无限多维基向量坐标系统改成有限维坐标系近似，即 d c j u j j 1 表示 X 的近似值或估计量，我们希望在同样维数条件下，使向量 X 的估计量误 差最小。确切地说是使所引起的均方误差 : ? T ( X ? E[(X X ) X )] 为最小。 K-L 变换可以实现这个目的。 因为 T 1 j i u j ui 0 j i 将 X X c j u j 带入到 ? T ( X ? )] 中可得到 E[(X X) X j d 1 E[  c 2j ] j  1 容易看到  c j  uTj  X 因此  E[  u Tj XX T u j  ] d 1 由于  u j  是确定性向量，因此上式可改写为 u Tj E XX T  u j j d 1 令 EXXT 则  uTj  u j j d 1 用拉格朗日乘子法， 可以求出在满足正交条件下，数  取极值的坐标系统， 即用函 g（u j ）  uTj  u j  j [ u  Tj u j  1] j d 1  j d 1 对 u j  ，  j  d 1,  ,  求导数，因此有 （ - j I） u j  0, j  d 1,  , 我们令 d 0 ，从而可得到以下的结论： 以矩阵  的本征向量座位坐标轴来展开  X  时，其截断均方误差具有极值性 质，且当取  d 个 u j ，j  1,2,  , d  来逼近  X  时，其均方误差 j j d 1 式中 j 是矩阵 的相应本征值。 可以证明，当取 d 个与矩阵 的 d 个最大本征值对应的本征向量来展开 X 时，其截断均方误差和在所有其他正交坐标系情况下用 d 个坐标展开 X 时所引 起的均方误差相比为最小。这 d 个本征向量所组成的正交坐标系称作 X 所在的 D维空间的 d 维 K-L 变换坐标系，在坐标系上的展开系数向量称为 X 的变换。 本实验所采用的人物脸部灰度图像默认已经过归一化， 所以对于图像的归一化，我们不予处理。可以以样本集的总体散布矩阵为产生矩阵，即： 1 M 1 ) T ( xi)( xi M i 0 其中： xi 表示第 i 个训练样本图像 ， 表示训练样本集的平均图像向量， M 为 训练样本的总数。 2、奇异值分解： 为了求 N 2 * N 2 维 矩阵的特征值和正交归一的特征向量，直接计算是困难的。为此引入了 SVD定理： 设 A 是一秩为 r 的 n*r 维矩阵，则存在两个正交矩阵： U [u0 , u1 , , ur 1 ] n* r U T U I V [ v0 , v1 , ,vr 1 ] r* r V T V I 以及对角阵 diag [ 0,1, , r 1 ] r* r , 且 0 1 r 1 1 满足 A U 2V T 其中： i (i 0,1, , r 1) 为矩阵 AAT 和 AT A 的非零特征值， ui 和 vi 分别为 AAT 和 AT A对应于 i 的特征向量。上述分解称为矩阵的奇异值分解， 简称 SVD， 为 A 的奇异值。 1 又有推论 U AV 2 易知 ui 1 Xvi i 0,1,2, , M 1 i 这就是图像的特征向量。 它是通过计算较低为矩阵 R 的特征值与特征向量而间接求出的。 3、特征向量的选取： 我们总共的得到 M 个特征向量。虽然 M 比 N2小很多。 但通常情况下，仍然会很大。而事实上，根据应用的需要，并非所有的都有很大 的保留意义。 考虑到使用变换作为对人脸图像的压缩手段，可以选取最大的前 k 个特征向 k i i 0 量，使得 M 1 i i 0 上式中，可以选取 99% 。这说明样本及在前个轴上能量占整个能量的 99%以 上。 4、产生矩阵的选取 ： 在考