多元光滑样条自适应回归模型及其应用-数学专业论文.docxVIP

万方数据 万方数据 Adaptive Regression Model and Application of Multivariate Smoothing Splines Dissertation Submitted to Hebei United University in partial fulfillment of the requirement for the degree of Master of Science by Chen Liyu （Mathematics） Supervisor: Professor Chang Jincai March, 2015 独 创 性 说 明 本人郑重声明：所呈交的论文是我个人在导师指导下进行的研究 工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的 地方外，论文中不包含其他人已经发表或撰写的研究成果，也不包含 为获得河北联合大学以外其他教育机构的学位或证书所使用过的材 料。与我一同工作的同志对本研究所做的任何贡献均已在论文中做了 明确的说明并表示了谢意。 论文作者签名： 日期： 年 月 日 关于论文使用授权的说明 本人完全了解河北联合大学有关保留、使用学位论文的规定， 即：已获学位的研究生必须按学校规定提交学位论文，学校有权保 留、送交论文的复印件，允许论文被查阅和借阅；学校可以将学位论 文的全部或部分内容采用影印、缩印或编入有关数据库进行公开、检 索和交流。 作者和导师同意论文公开及网上交流的时间： □ 自授予学位之日起 □ 自 年 月 日起 作者签名： 导师签名： 签字日期： 年 月 日 签字日期： 年 月 日 摘 要 摘 要 多元自适应回归样条( Multivariate Adaptive Regression Splines，MARS)是由美 国的统计学家 Jerome Friedman 于 1991 年提出的一种数据分析方法。该方法以样条 函数的张量积作为基函数，分为前向过程、后向剪枝过程与模型选取三个步骤。其 优势在于能够处理数据量大、维度高的数据，而且计算快捷、模型精确。 文章在一般回归分析理论和样条理论的基础上，系统地研究了 MARS 的建模 过程，提出引入 Bernstein 基函数建模的思想，并针对冶金工业领域一类数据分析 其成分优化问题，应用该方法进行建模和预测。在前向过程中，通过自适应的选取 节点对数据进行分割，每选取一个节点就生成两个新的基函数，前向过程结束后生 成一个过拟合的模型。后向剪枝过程中在保证模型准确度的前提下，删除过拟合模 型中对模型贡献度小的基函数，最后选取一个最优的模型作为回归模型。研究过程 中对采集的原始数据进行了消除负差、剔除异常数据、数据标准化等预处理工作， 选 取 精华 样 本 ， 分别 建立 了 线性 模型 、 非 线性 模型 、 神 经 网 络 模型等 ， 并与 MARS 方法做比较。得到如下结论：由于模型的限制，线性回归模型精度较低， 与实际经验不符；神经网络对部分元素的描述优于线性回归模型，但不能得出相应 的显式表达式，同时线性回归与神经网络都未能考虑变量间的交互作用；MARS 模型对问题的描述比较符合实际经验，同时能够反映元素间的交互作用，能够对两 个变量做可视化处理，并能够给出显式表达式。 论文以数据科学为背景，属于问题驱动的应用数学研究，不仅对多元自适应回 归方法进行了理论探索，也为工业领域的数据分析与优化提供了理论依据。 图 25 幅；表 8 个；参 51 篇。 关键词：回归；样条；MARS 分类号：O241.5 - I - 河北联合大学硕士学位论文 Abstract In 1991, the famous American statistician Jerome Friedman first proposed multivariate adaptive regression splines, the MARS. MARS uses spline functions tensor product as its basic functions. It needs three steps to build the MARS model, forward process, pruning process and model selection. The advantage of MARS is its ability to deal with large volumes data with high dimensional variables. Based on the theory of general regression and spline, systematically we study