基于pls的变量选择及其在高维数据中的应用-化工过程机械专业论文.docxVIP

目 录 第一章 绪论1 1.1 变量选择问题1 1.1.1 变量选择问题的背景1 1.1.2 机器学习与变量选择1 1.1.3 变量选择方法的研究现状3 1.2 常用的变量选择方法3 HYPERLINK \l _TOC_250003 Filter 类方法 4 HYPERLINK \l _TOC_250002 Wrapper 类方法 5 HYPERLINK \l _TOC_250001 Embedded 类方法 6 1.3 基于偏最小二乘的变量选择7 1.3.1 偏最小二乘算法7 HYPERLINK \l _TOC_250000 1.3.2 基于 PLS 的变量选择方法 8 1.4 本文的研究内容9 第二章 基于变量加权高斯过程的近红外光谱数据分析 11 2.1 引言 11 2.2 问题描述 11 2.3 基于变量加权的高斯过程13 2.3.1 常规的高斯过程回归分析13 2.3.2 新的基于 PLS 变量加权的 PWGP 算法 16 2.4 数据和模型评价方法18 2.4.1 数据集简介18 2.4.2 模型评价方法19 2.5 PWGP 算法在光谱数据分析中的应用 20 2.5.1 PWGP 应用于猪肉样品的脂肪检验 21 2.5.2 PWGP 应用于酒精含量预测 22 2.5.3 PWGP 应用于糖类中水分的预测 24 2.6 本章小结25 第三章 基于 ZEPLS 的必需基因识别26 3.1 引言26 3.2 问题描述26 3.3 基于无信息变量消除的 PLS 变量选择 28 3.3.1 DNA 序列的 Z 曲线方法 28 3.3.2 基于 UVE 的 ZEPLS 算法 30 3.4 数据和方法31 3.4.1 数据库31 3.4.2 特征提取31 3.4.3 模型评价34 3.5 结果和讨论35 3.5.1 以 EC 和 BS 为训练样本的交叉物种必需基因预测。 35 3.5.2 根据不同重叠率得到的交叉物种预测37 3.5.3 与其他的方法比较37 3.5.4 最重要的 50 个特征40 3.6 本章小结41 第四章 结论和展望43 参考文献45 发表论文和参加科研情况说明53 致 谢54 第一章 第一章 绪论 PAGE PAGE 1 第一章 绪论 1.1 变量选择问题 1.1.1 变量选择问题的背景 科学的发展与技术的进步使得分析与测量的工作逐步信息化，自动化和计算 机化，现代测量分析仪器使人们能迅速而准确的获取大量可靠的测量数据。随着 数据的爆发式增长，无论是科研人员还是生产人员都面临着同样的问题：如何从 海量的数据中发掘最有价值的信息，从而指导研究工作的前进或是生产技术的改 进。这类问题推动了各种交叉学科的产生和发展，如工业统计学，化学计量学以 及生物信息学等。 在实际研究中，通常使用数学方法建立统计分析模型，来挖掘、提取研究对 象或是生产过程的数据信息。如果研究对象或生产过程的机理未知，为了获得对 系统的准确认识，不遗漏对机理或过程有显著解释意义的特征参数或过程变量， 常在建立模型时选用更全面的数据。这必定造成模型中包含大量无用或重复的信 息，不仅会增加时间和资源上的消耗，而且使模型变得复杂和难以解释。此外， 数据中高度相关信息的存在不仅会降低模型的预测精度，也使模型的参数估计面 临更多的困难。因此有必要对这些数据信息进行有效的甄别和筛选，以建立预测 能力强，稳定和解释性好的数学模型。这样的模型更加简单且容易理解，而且可 以大大降低信息收集的成本。这类使用数学方法，建立统计分析模型并对研究和 生产进行指导的过程，正是机器学习研究的重要内容。而从大量数据信息中提取 最重要，最有价值的特征参数或是过程变量，以建立更简单、准确、稳定且解释 能力强的模型，则是变量选择要解决的问题。 1.1.2 机器学习与变量选择 一般而言，机器学习的问题可以这样定义：给定一系列的样本数据和相对应 的目标函数值，构成已知的样本集，利用某种学习算法去逼近其真正的目标函数， 并对未知的样本进行预测。样本的属性描述就是特征(Feature)，有时也被称为变 量(Variable)，或是属性(Attribute)、特性(Characteristic)等。 数据集的大小通常由样本数 N 和特征数 P 决定，构成 N×P 阶的矩阵。如果 特征数 P 过大，可能会引起“维数灾难”（Curse of Dimensionality）。特征空间的 维数不宜过高，这已经是研究人员的共识[1]。一般来讲，许多学习算法都需要对 其内部参数进行估计，例如概率分布密度中的有关参数，而这些参数的个数往往 与特征空间的维数密切相关，例如协方差矩阵的阶就等于特征空间的维数。特征 空间的维数