基于fk变换的cca正则化技术及其推广性能研究-模式识别与智能系统专业论文.docxVIP

㈨Ul ㈨Ul 1111 I T IIII II I I I li lt UI ’Y1 9 1 8906 硕上论文 基于FK变换的CCA正则化技术及其推广性能研究 摘 要 典型相关分析(CCA)是研究两组变量之间相关关系的多元统计分析方法，在图像 处理、回归建模、模式识别等领域有广泛的应用背景。CCA作为一种无监督的学习方 法，通过提取典型相关成分可以达到降维的目的，并可通过典型成分进行模式识别。然 而，用于训练的样本总是有限的，由有限样本得到训练模型与真实的模型总是存在一定 的偏差。 本文把Fukunaga-Koontz变换(FK变换，FKT)引入到CCA中，提出了新的特征 提取方法CCA／FKT。通过给样本的整体散布矩阵或类内散布矩阵的特征向量加权，达 到改变样本分布的目的，使得变换后的样本更趋于无限样本的分布情况。其中所加的权 值为特征向量对应的特征值的平方根的倒数。在两个手写体数据库上的实验表明 CCA／FKT方法的有效性。 由于有限样本引起的小特征值求解的不稳定性，本文在CCA／FKT的基础上引入了 正则化技术，使得小特征值的求解稳定。为了改善所提出的基于正则化的CCA／FKT方 法的性能，本文又设计了一种求解正则化参数的方法。在两个手写体数据库上的实验表 明该方法的可行性。 关键词：典型相关分析，特征提取，特征融合，FK变换，正贝IJ化 Abstract 硕士论文 Abstract CanOnical cOrrelatiOn analysis (CCA) is a pOwerful multivariate statistical methOd tO analyze the under1ying dependency between twO sets. It is widelyωed in image prOcessing， regressiOn and mOdeling，pa忧em recOgnitiOn and etc. As an unsupervised learning methOd， CCA extrac臼 canOnical cOrrelatiOn cOmpOnent tO reduce the dimensiOn and the extracted compOnents can be used in pattem recOgnitiOn. HOwever，the existing samples used in tr垣ning 缸e limited. The mOdel gained 仕om the finite samples deviates 仕om the real mOdel. We intrOduce F咏ukun锦aga-KO∞On但tz transfOrm (σFKηhωCCA缸and prOpOse a new methOd， cal1ed CCAlFKT. TO change 伽 sample distributiOn， sO由e dis仕ibutiOn tends tO be 伽 ωe Of the infinite sampl邸， we wei纠t the eigenvectOrs Of the samples tOtal scatter matrix Or within-c1ass scatter matrix using the reversal Of the square rOOt Of cOrrespOnding eigenvalues. Experimental results On handwritten digits data se臼 shOw the effectiveness Of the prOpOsed methOd. TO OvercOme the unstable cOmputatiOn Of little eigenva1ues caused by 曲l?te samples，we in位Oduce 由e regularizati On technOlOgy intO CCAlFKT tO get the stable sOlutiOn Of little eigenvalues. TO imprOve 也e perfOnnance Of the prOposed methOd，we des韧 a new methOd tO get the regularizati On p町ameters.ηle prOpOsed methOd is 刨出ted 由rOugh 由.e ex