模式识别论文——PCA与SVD融合人脸识别算法及设计.docx

PCA与SVD相融合的人脸识别算法设计与系统实现摘要：主成分分析是基于K-L变换思想的优秀线性分类算法之一，根据方差最大化原理，将信号在一组新的规范正交基下展开，其在人脸识别中具有重要应用价值，所形成的算法称为本征脸方法，然而，由于该方法将图像变换为本征脸空间的一点，因此对光照，角度和平移等因素比较敏感。奇异值分解作为一种有效的代数特征提取方法，将图像看作矩阵进行处理，具有位移，旋转不变性等优点，恰好弥补了PCA在这方面的不足，两者相融合的算法可以有效地提高识别率，通过ORL库的测试，可以证实这一算法的优势。最后，设计了基于Matlab GUIDE的人脸识别系统。关键词：主成分分析，奇异值分解，人脸识别，K-L变换1. 介绍随着社会的发展以及技术的进步，尤其是最近十年内计算机的软硬件性能的飞速提升，以及社会各方面对快速高效的自动身份验证的要求日益迫切，生物识别技术在科研领域取得了极大的重视和发展。其中，人脸识别技术的研究近些年受到普遍重视，它与指纹识别、视网膜识别等同属于生物特征识别。在公安、安全验证系统、医学、金融、视频会议、交通量控制等方面有着巨大的应用前景，因而成为当前人工智能领域和模式识别的一个研究热点。人脸识别的研究始于60 年代末，在90年代取得重大突破，而得到前所未有的重视。早期的人脸识别研究主要集中于两大方向[1]，一是提取人脸几何特征的方法, 包括人脸部件归一化的点间距离和比率以及人脸的一些特征点；二是模板匹配的方法, 主要是利用计算模板和图像灰度的自相关性来实现识别功能。目前的研究也主要有两个方向：其一是基于整体的研究方法，它考虑了模式的整体属性，包括特征脸（Eigenface）方法、SVD分解的方法[2]、人脸等密度线分析匹配方法[3]、弹性图匹配（Elastic Graph Matching）方法[4]、隐马尔可夫模型（Hidden Markov Model）方法[5]以及神经网络的方法等；其二是基于特征分析的方法, 将人脸基准点的相对比率和其它描述人脸脸部特征的形状参数或类别参数等一起构成识别特征向量。这类基于整体脸识别方法的优势在于保留了更多的信息，而基于部件的识别可以有效地提取指定特征，然而却没有表达识别部件的可靠模型。总得来说，人脸检测是一个整体识别与特征识别共同作用的结果，其中前者提供低层次特征，远距离进行辨别时更重要，而后者提供高层次特征，在近距离的人脸识别中，特征部件的识别更重要。本文的结构安排如下：第一部分主要进行人脸识别的总体介绍，包括其应用背景和研究现状；第二部分为相关算法描述与分析，即对KL变换、主成分分析（Principle Component Analysis，PCA）和奇异值分解（Singular Value Decomposition，SVD）进行详细推导与分析；第三部分为算法设计，提出基于PCA和SVD相融合的分类算法；第四部分为系统设计，针对于人脸认证登录这一应用，基于Matlab GUIDE开发出实际系统；第五部分为实验结果，分为两个部分，其一，对所提出的算法进行性能验证，测试样本取自于剑桥大学ORL人脸库，其二，对所开发的系统进行实际测试；最后得出本文结论，并提出几种算法的优化改进策略。2. 相关算法描述与分析2.1 Karhunen-Loeve变换Karhunen-Loeve变换简称为K-L变换，是模式识别中常用的一种特征提取方法。K-L变换是从K-L展开引出的，对于某一个样本，可以在一组规范正交基上展开，即（2-1）式（2-1）同时左乘，得（2-2）由此，K-L变换思想可以表述为，将向量在一组规范正交基上展开，得到新的向量（其中和的各分量均为在各自基上的线性组合系数）。其目的是使的各分量具有最小的相关性，从而达到降维的目的。如果只用有限项（）来逼近，即（2-3）则该估计的均方误差为，（2-4）记，为的自相关矩阵（K-L变换的产生矩阵）。将均方误差作为目标函数，则问题转变为最小化目标函数，（2-5）Lagrange方程为，（2-6）令，得（2-7）即为矩阵的特征值，为对应的特征向量，此时，取得极值。将此条件代入目标函数式（2-4），得，（2-8）因此，K-L变换可以总述为，以矩阵最大个特征值对应的特征向量作为规范正交基，构成新的特征空间，使在其上展开，展开系数组成了新的向量，则通过这样的变换，误差最小。表示成矩阵形式，（2-9）K-L变换具有如下性质：第一，自相关矩阵可以相似对角化，因此，有（2-10）通过K-L变换，消除了原有向量分量间的相关性，从而有可能去掉那些带有较少信息或不含信息的冗余分量，以达到降维的目的；第二，K-L变换是信号的最佳的压缩表示，也叫最优线性变换，用维K-L变换特征代表原始信号，所带来的误差在所有维正交坐标变换中最小；第三，用K-L坐标系