(修改)基于核schur正交领域保持投影的人脸识别讲解.doc

基于核Schur正交邻域保持判别嵌入的人脸识别 王燕 白万荣 （兰州理工大学计算机与通信学院 兰州 734000） 摘 要：为了更精确地识别人脸，将向量正交和核映射思想引入到邻域保持判别嵌入（neighborhood preserving embedding，NPDE）schur正交方式找出最优投影向量，从而更好地提取人脸非线性局部领域结构特征。在ORL和Yale人脸库上的实验证明了本文所提算法的有效性。 关键词：人脸识别；核方法；邻域保持判别嵌入；流形学习；Schur正交 1引言 在人脸识别中为了数据降维，通常的做法是寻找一个适当的低维子空间来表示高维图像空间中的人脸。过去的十几年里出现了众多子空间学习方法[1]，而基于主成分分析（PCA）的特征脸（Eigenfaces）[2]和基于线性判别分析（LDA）的Fisher脸（Fisherfaces）[3]是现有的子空间投影方法中最具有影响力的方法。 近年来，研究人员发现，人脸图像很可能是分布在一个非常复杂的低维非线性子流形上[4]，进而涌现出一些为了发现嵌入在高维数据中有效的低维结构的流形学习算法，如等距映射（isometric mapping，ISOMAPlocally linear embedding，LLElaplacian eigenmap，LE)[7]等。然而这三种方法不能直接映射新的测试样本，也就是out-of-sample问题[8]。为了克服这一点，He等人提出领域保持投影算法（NPE）[9]并成功应用在人脸识别当中，该方法较好地保持了人脸图像数据的局部结构信息。文献[10]进一步发展了NPE,提出了邻域保持判别嵌入（neighborhood preserving embedding，NPDE）NPDE方法所求得的基向量并不是正交的。非正交性很难保持高维空间的测度结构，不足以估计高维数据的内蕴维数以及很难重构数据。实际上，不能正确估计高维空间的内蕴维数会极大降低NPDE的性能。另外，在人脸识别中，由于受光照、表情及姿态等因素的影响，常常使得问题呈现出非线性。基于流形的NPDE算法实质是一种线性的，因此具有一定的局限性。 基于以上原因，本文将正交向量和核映射两种思想引入邻域保持判别嵌入算法中，提出了一种核schur正交邻域保持嵌入（KSONPDE）的新子空间分析方法。KSONPDE的目标函数，在求解时，利用核函数技术和schur正交方法；最后将训练样本和测试样本进行投影，用最近邻分类器将其分类。 2 正交邻域保持判别嵌入算法 2.1 正交邻域保持判别嵌入（NPDE） 线性降维问题可描述为：设，，为个模式类，其中，每个属于类，即，。寻找一个嵌入变换矩阵，将这些数据映射到（）中表示为，且。我们利用类别信息来研究邻近样本数据的局部关系，在嵌入低维子空间后，有两个目标：其一是最大限度地将不同模式类别样本分开，即最大化类间散布矩阵。其二是保持类内局部流形结构不变。因此，从以上两方面考虑，给出NPDE的目标函数定义 （1） 上式中分母为LDA算法中的类间散布矩阵，能够最大化类间样本之间的距离，其可展开为 （2）为类间散布矩阵。其分子为NPE算法，能够保持局部结构信息，其可展开为 （3） 式（3）中为重构权重，NPE认为，假定在 空间由同类数据点重构数据的系数，则也能在空间对应的同类点重构嵌入。因而重构权重可通过求解（4）式 （4） 所示的最小二乘问题，计算到它的同类领域点间的最佳重建权重，并满足条件。同时，如果不属于的最近邻点，则。 最后，最小目标函数的变换向量求解问题可以转换为在约束条件下，求解下面的广义特征向量的最小特征值问题： （5） 2.2 schur正交邻域保持判别嵌入（SONPDE） Deng Cai[11]提出的迭代正交理论比较烦琐，计算量也比较大， 而schur正交计算相对简单。因此，本文采用schur正交分解来处理正交化。 假设一组相互正交的向量为投影矩阵，则投影空间中两点间欧氏距离如下： 因为，可见正交投影后能够完全保留原空间的几何结构。 定理1[12]（Schur）设为阶方阵，是的特征值，不论它们是实数还是复数，总存在相似酉矩阵，使得，其中为三角矩阵，对角线上的元素是。 依据定理1，当为实阶方阵，它的Schur分解是，这里就是正交矩阵。为了获得正交基向量，我们并没有对进行特征分析，而是对进行Schur分解。假定的Schur分解就是，就是矩阵