基于成对差异性度量的选择性集成学习方法分析-analysis of selective integrated learning method based on paired difference measurement.docxVIP

优秀毕业论文 精品参考文献资料 better performance and are most suitable for feature classifier in face recognition. The research provides a reference for selecting an appropriate classifier in face recognition. (2) In order to improve the diversity and accuracy of learners, Pairwise Diversity Measures based Selective Ensemble (PDMSEN) is proposed. Furthermore, a new method (PDMSEN-b) is presented to improve the speed of the algorithm which also supports parallel computing. At last, through applying BP neural networks as base learners, we test on selected UCI database and compare with Bagging and GASEN (Genetic Algorithm based Selected Ensemble) algorithms. Experimental results demonstrate that the learning speed of the proposed algorithm (PDMSEN-b) is superior to that of the GASEN algorithm in the same learning performance. Key words: machine learning, ensemble learning, selective ensemble, diversity, pairwise diversity measures, face recognition  第一章 引言  PAGE 46 第一章 引言 1.1 研究背景及意义 机器学习(Machine Learning, ML)是一门是研究计算机怎样模拟或实现人类的学 习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能 的科学。它是人工智能（Artificial Intelligence, AI）的核心，是使得计算机具有智能的 根本途径，其应用遍及了人工智能的各个领域，且日益成为其它相关学科的重要支撑 技术。早在2001年，美国航空航天局JPL实验室的科学家们就曾在《science》杂志上 撰文指出 [1]:“Recent advances in machine learning methods, along with successful applications across a wide variety of fields such as planetary science and bioinformatics, promise powerful new tools for practicing scientists We expect steady progress on these core areas of ML research in coming years.” 机器学习领域中，事先给出的数据（即观测数据）构成的集合通常是用来作为学 习器的训练集，它包含多个样本（又称示例或观测值），每一样本数据又包含多个特 征（又称属性），机器学习的主要目标就是通过训练对新的样本给予尽可能准确的预 测，这一预测能力通常被称为泛化能力(Generalization)或推广能力。作为一个好的机 器学习系统应该具有较强的泛化能力，也就是说，其根据已有的数据建立的模型应该 能够很好地处理新的数据。因此，泛化能力是机器学习关心的基本问题之一，提高泛 化能力是永远的追求。集成学习(Ensemble Learning)是一种机器学习范式，它使用多 个（通常是同质的）学习器来解决同一个问题可以有效地提高学习系统的泛化能力。 早在1997年，国际机器学习领域的权威T.G. Dietterich就曾指出[2]机器学习的四大研究 方向是集成学习，符号学习，统计学习和强化学习，其中集成学习位列机器学习四大 研究方向之首。而在今天，集成学习仍然是机器学习中最热门的研究领域之一，对于 如何设计出更有效的集成学习实现方法，以进一步提高集成学习系统的泛