多元线性模型系数的核主成分估计及其筛选-数学专业论文.docxVIP

Kernel Principal Component Coefficients in the Multiple Linear Model Estimation and Selection Dissertation Submitted to Hebei United University in partial fulfillment of the requirement for the degree of Master of Science by Jin Yongchao (Mathematics) Supervisor: Professor Wan Xinghuo Mrach, 2015 独 创 性 说 明 本人郑重声明：所呈交的论文是我个人在导师指导下进行的研究 工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的 地方外，论文中不包含其他人已经发表或撰写的研究成果，也不包含 为获得河北联合大学以外其他教育机构的学位或证书所使用过的材 料。与我一同工作的同志对本研究所做的任何贡献均已在论文中做了 明确的说明并表示了谢意。 论文作者签名： 日期： 年 月 日 关于论文使用授权的说明 本人完全了解河北联合大学有关保留、使用学位论文的规定， 即：已获学位的研究生必须按学校规定提交学位论文，学校有权保 留、送交论文的复印件，允许论文被查阅和借阅；学校可以将学位论 文的全部或部分内容采用影印、缩印或编入有关数据库进行公开、检 索和交流。 作者和导师同意论文公开及网上交流的时间： □ 自授予学位之日起 □ 自 年 月 日起 作者签名： 导师签名： 签字日期： 年 月 日 签字日期 ： 年 月 日 摘 要 摘 要 核主成分分析方法作为一种良好的非线性问题处理工具，已被广泛地运用于各 个领域。它将核函数和主成分分析有机地结合起来，在解决信息冗余的同时，最大 程度地保证了原始信息的完整性，从而拓宽了主成分分析方法的应用范围，是主成 分分析方法的一种推广。 在线性模型回归系数的无偏估计中，LS 估计得到最广泛应用，但在自变量较 多及存在着非线性关系的情况下，建立的多元线性回归模型不稳定。经常使用的线 性模型系数的有偏估计方法如岭估计（Ridge Estimation）、主成分估计（Principal Component Estimation）和偏最小二乘估计（Partial Least Squares Estimation）的拟 合效果也不理想，用核主成分估计线性模型回归系数也是一种有偏估计，它与岭估 计、Stein 估计相似，是建立在主成分分析基础之上的。在总结多元线性模型回归 系数的主成分估计的基础上，结合核主成分分析的相关理论，从非线性的角度来考 虑，提出了运用核主成分分析的方法对多元线性模型的系数进行估计，给出了多元 线性模型系数核主成分估计的具体实施步骤，并且在核主成分的筛选准则方面进行 了探讨、分析，推出了一些重要结论。 实证分析表明，由于核主成分分析法借鉴主成分分析的思想，各主成分之间相 互正交很好地避免了多重共线性问题。同时，由于核主成分分析方法引入了核函 数，将原始数据映射到高维空间进行运算、处理，有效地解决了变量间存在非线性 或者更复杂的关系时，建立的回归模型不稳定的问题。并且核主成分筛选准则的运 用，使得核主成分的提取更加规范。 图 9 幅；表 29 个；参 58 篇。 关键词：核函数；核主成分估计；核主成分筛选 分类号：0212.4 - I - 河北联合大学硕士学位论文 Abstract Kernel Principal Component Analysis as a good nonlinear problem processing tools, has been widely used in various fields. It combines principal component analysis with kernel function. When using it to solve the information redundancy it can ensure the integrity of the original information at the same time. As an extension of the principal component analysis, it broadens the range of application of principal component analysis method. LS estimate is widely used in the linear model regression coefficien