正交和不相关边界邻域保持嵌入人脸识别.docVIP

正交和不相关边界邻域保持嵌入人脸识别 　　摘要： 邻域保持嵌入（NPE）算法本质上仍是一种无监督方法，并没有有效利用已有的类别信息提高分类效率。为此提出两种有监督流形学习方法：正交边界邻域保持嵌入（OMNPE）和不相关边界邻域保持嵌入（UMNPE）。首先构造类内和类间邻接图，并定义类内和类间重构误差；然后分别在正交和不相关约束条件下寻找最小化类内重构误差同时最大化类间重构误差的投影向量；将训练样本和测试样本分别投影到低维子空间中，再利用最近邻分类器进行分类识别。在ORL和Yale人脸库上的实验结果表明，与线性判别分析（LDA）、边界Fisher分析（MFA）等子空间人脸识别算法相比，所提算法的平均识别率提高了0.5%～3%，验证了算法的有效性。 关键词： 降维；流形学习；人脸识别；邻域保持嵌入；正交；不相关 0引言 在过去几十年里，人脸识别技术得到了很大的发展，特征提取是人脸识别的关键步骤，其主要目的是降维。较为经典的算法有主成分分析（Principal Component Analysis，PCA）[1]和线性判别分析（Linear Discriminant Analysis，LDA）[2]。这两种算法都假设数据集处于欧氏空间中。而有研究表明，很多复杂对象处于某个流形子空间中[3-5]，在这种情况下，PCA和LDA将很可能失效。 基于流形学习方法的人脸识别技术是近年来人脸识别领域中重要的研究成果。目前，比较有代表性的非线性流形学习算法包括：等距映射（Isometric Mapping，ISOMAP）[3]、局部线性嵌入（Locally Linear Embedding，LLE）[4]、拉普拉斯特征映射（Laplacian Eigenmap，LE）[5]等。由于流形学习方法缺乏明晰的投影矩阵从而对新数据点难以处理，因此，He等[6]提出了LLE的线性近似算法——邻域保持嵌入（Neighborhood Preserving Embedding，NPE），它能有效地保持原始数据的局部特性和处理新数据点。但与PCA不同，NPE得到的低维特征是统计相关的[7-8]且投影矩阵不具正交性，从而导致所提取的特征信息重叠且不能保持原始高维空间中的测度结构；其次，由于NPE缺少类判别信息，故其分类性能偏弱；再者，人脸识别中的小样本问题会使得NPE算法存在病态的奇异问题。文献[9]考虑到类别信息，提出了一种有监督邻域保持嵌入（Supervised Neighborhood Preserving Projections，SNPE）算法，但仍存在以上缺点。文献[10]提出了一种正交邻域保持投影（Orthogonal Neighborhood Preserving Projections，ONPP）法，一定程度上提高了NPE算法的识别性能，但该方法只考虑了类内判别信息，而未考虑类间判别信息，分类性能仍然偏弱。Yan等[11]利用图嵌入（Graph Embedding）提出了一种最大化类内数据和类外数据“边界（margin）”的边界Fisher分析法（Marginal Fisher Analysis，MFA）。为避免MFA算法所面临的小样本问题，王勇等[12]提出了基于最大间距MFA的鉴别分析。文献[13]进行了相似的研究，并把相应算法称为最大边界投影（Maximum Margin Projection， MMP）。 基于图嵌入统一框架[11]，提出了两种新的流形学习方法，分别称为正交边界邻域保持嵌入（Orthogonal Marginal Neighborhood Preserving Embedding，OMNPE）与不相关边界邻域保持嵌入（Uncorrelated Marginal Neighborhood Preserving Embedding，UMNPE）。在原始NPE算法基础上，首先构造类内邻接图和类间邻接图，然后在目标函数中引入类内重构误差和类间重构误差来保留几何和判别结构，最后通过对投影向量添加正交及不相关约束得到正交及不相关边界邻域保持嵌入算法。在ORL和Yale人脸库上进行实验，以验证算法的有效性。 i-∑nj=1sijxj‖2 s.t. ∑nj=1sij=1（2 这是一个约束最小二乘问题，文献[4]给出了详细的求解。对式（1）加上约束条件ATXXTA=I，再对其进行化简得到： min tr（ATXHXTA） s.t. ATXXTA=I（3） 其中：H=（I-S）T（I-S），I为d阶单位阵。该问题可转化为求解如下广义特征方程： XHXTa=λXXTa（4 于是，投影矩阵A由式（4）的后d个最小非零特征值所对应的特征向量构成，从而通过变换yi=