《一种基于QR分解的增量式核判别分析法》.pdfVIP

第 41卷 第 4期 计 算 机 科 学 Vo1．41No．4 2014年 4月 Computer Science Apr2014 一 种基于 QR分解 的增量式核Ntis]分析法 王万 良 陈 宇 邱 虹 郑建炜 (浙江工业大学计算机学院 杭州310023) 摘 要 针对非线性系统在线学习的效率问题，提 出了一种基于QR分解的增量式核判别分析法。该算法充分利用 基于QR分解的核判别分析法的先降维后提取特征的思想，将核空间映射到低维空间进行计算，减少了构造核矩阵的 计算量，降低了核矩阵的存储空间。同时引入增量计算的思想，有效地解决了在线学习中冗余计算的问题。在TE过 程数据和ORL人脸库上的仿真实验证明了该算法在特征提取上的有效性 ，其相比批量式算法有更高的效率优势。 关键词 非线性系统，在线学习，QR分解，增量计算，特征降维 中图法分类号 TP277 文献标识码 A IncrementalKernelDiscriminantAnalysisMethodviaQRDecomposition WANGWan-liang CHEN Yu QtU Hong ZHENG Jian-wei (CollegeofComputerScience，ZhejiangUniversityofTechnology，Hangzhou310023，China) Abstract Toimprovetheonlinelearningefficiencyofnonlinearsystem，an incrementalkem eldecompositionanalysis methodviaQRdecompositionwasdeveloped．Thisalgorithm mapsthekemelspacetoalowerdimensionspacebefore performingfeaturedecompositiontoreducetheamountofcalculationandthes~ragespaceofthekernelmatrix．Then thisalgorkhm solvestheproblem ofredundantcomputationbycombining the ideaofincrementalcomputation．The ex- perimentsonTEprocessandORLdatasetshowthisalgorithm iseffectiveOnfeaturedecompositionaswellasmoreef_ ficientthanthebatchone． Keywords Nonlinearsystem，Onlinelearning，QRdecompo sition，Incrementalcomputation，Dimensionreduction 矩阵计算，这严重影响了特征提取的效率。因此本文提出了 1 引言 一 种专门针对非线性系统在线学习效率问题的增量式非线性 日益复杂的工业系统和人脸识别系统中普遍存在着非线 特征提取方法。这种方法有效地提高了更新投影矩阵的效 性问题。近年来，非线性问题逐渐成为研究热点。核方法的 率，同时减少了核矩阵K 的存储空间，更适用于非线性过程 出现大大推动了非线性过程研究的发展[1]。核 Fisher判别 在线监控。 分析法 (KernelFisherDiscriminantAnalysis，I(】m )是将核 基于QR分解的核判别分析(KernelDiscriminantAnaly- 学习的思想引入到经典降维算法FDA中所产生的一种非线 sisviaQRDecomposition，K