大样本支持向量机研讨.pdfVIP

致 谢 首先感谢母校辽宁工程技术大学两年多来对我的教育和培养，使我在研究生阶段留 下了许多美好的回忆。走在古朴的校园里让我感到无比的欣慰，在工大的点点滴滴让我真 正体会到朴实无华、坚韧顽强、无私奉献的“太阳石精神”，这将对我今后的工作学习产 生重大的影响。 感谢我的导师张佐刚教授对我的学习和生活无微不至的照顾, 他那种对教育的忠诚热 爱、对科学的执着追求、对学术的精益严谨的态度值得我今后在工作、生活中不断学习。 感谢高雷阜教授在研究生阶段对我的学习给予的指导和帮助，让我在研究生阶段知识 层次有了一定提高。高老师那渊博的知识，严谨求实、认真负责的治学态度和不断开拓创 新的精神让我十分敬仰和羡慕。 感谢研究生学院工作部的老师一直以来对我工作能力的培养和锻炼所给予的支持和 鼓励，感谢理学院各位老师曾给予的教育和帮助，感谢舍友和同学们一直以来的和睦相处。 特别感谢西南科技大学的马景辉同学，在论文相关知识的学习和交流方面给予的巨大 帮助。 摘 要 支持向量机(support vector machine，SVM)是基于统计学习理论的专门研究 有限样本分类和预测新机器学习方法。它拥有完备的数学理论基础，根据结构风险 最小化原则在保证学习精度的前提下提高了泛化能力，现已成为机器学习和人工智 能界的一个研究热点。但在某些方面，支持向量机仍存在着一些问题，如模型选择、 多类分类和大样本数据信息的处理。 本文分析了支持向量机算法的理论知识，阐述了不同算法的训练迭代过程， 并根据测试条件来建立模型。通过对当前支持向量机算法所存在缺陷的正确定位， 从分类回归的目标出发，分别在样本数据的约简、知识提取和算法的复杂度方面提 出了相应的改进方法，并通过多次仿真实验证明了所提出算法模型在处理大样本数 据信息的能力。主要工作分为 以下三个方面： (1)系统分析了支持向量机的理论基础及其训练问题的数学描述。阐述了 SVM 训练问题最终归结为解一个带有约束的凸二次规划问题。概括了 SVM 的泛化性能， 并对当前流行的一些快速训练算法进行了详细的对比分析。 (2)详细研究了基于粗糙集的属性约简策略和规则知识的提取，概括了粗糙集 不同算法的应用，并提出了一种基于粗糙集的最小二乘支持向量机的算法模型。该 算法分别从分类、回归的角度证明算法的性能。通过 MATLAB 平台下的 802.11a 收 集样本数据，利用最小二乘支持向量建立信道分类和参数回归模型，根据建立的模 型来决策信道的选择和参数配置的确定，并仿真证明了该算法模型的有效性。 (3)深入研究了 SVM 中的支持向量数据描述算法（SVDD），提出了基于粗糙集 的 SVDD 分类算法(RS-SVDD)，并利用网上的大样本数据集，采用粗糙集和 SVDD 算 法进行数据约简，并对样本集进行训练测试来建立分类模型。通过与原有的 SVDD 分类算法比较，仿真证明了本文提出的算法模型具有较好分类成功率，并提高了算 法的训练速度。 关键词：支持向量机；粗糙集；RS-SVDD ；属性约简；SVDD Abstract Support Vector Machines (SVMs) algorithms based on the foundations of Statistical Learning Theory study on the classification and prediction for small sample data. Based on complete mathematical theory SVMs bring on a good generalization performance by using of the structure risk minimization principle.So it become a hotspot in machine learning and artifical intelligence. But there are several shortcomings, such