监督和半监督支持向量机的研究.pdf

摘要 支持向量机是基于统计学习理论的一种机器学习算法，近年来由于其良好的分类 和回归性能、较强的泛化能力受到广泛的关注，在理论研究、算法的实现和求解上都 取得了重大进展，成为机器学习的前言课题。 支持向量机将机器学习问题转化为最优化规划，并应用优化理论构造求解算法， 从而得到最优解。转化后的无约束支持向量机的目标函数含有不可微项，所以不能应 用快速算法求解，于是产生了基于光滑函数的监督和半监督支持向量机研究。本文主 要从光滑技术的方法和角度进行研究，主要内容如下： l、对光滑支持向量分类机进行研究。约束支持向量机的目标函数是非光滑不可 微的，而传统的优化算法大多要用到目标函数和约束条件的一阶或二阶可导条件。本 文提出一类基于贝塞尔曲线的光滑支持向量分类机BSSVM模型和基于旋转双曲线 求解。理论和实验都证明了提出的BSSVM和RHSSVM两种算法比已有模型在分类 精度和训练时间上有改进和提升。同时，节省了存储空间，有效地处理了高维、大数 据的分类问题。 2、对光滑支持向量回归机进行研究。建立无约束支持向量机回归模型，应用光 滑技术，给出了基于贝塞尔曲线的争不敏感光滑支持向量回归机c-BSSVR模型和基 于旋转双曲线的￡：-RHSSVR模型。对非线性样本，本文采用了核函数技术，将输入 样本映射到高维希尔伯特空间，在高维特征空间进行线性回归，对于高维数据，采用 简约支持向量机技术，在不降低回归性能的前提下，减少了运算数量。提出的两种模 归精度和训练时间上都优于已有的模型。 3、对于光滑半监督支持向量机进行研究。半监督支持向量机的目标函数为非凸 非光滑的，为了提高VTSVM的分类性能和求解速度，引进了光滑函数，给出了基于 贝塞尔曲线的光滑半监督支持向量机BSS3VM模型。该光滑函数对非凸非光滑部分 进行了逼近，逼近精度高于已有的近似高斯函数，理论和数据仿真都说明了该模型对 VTSVM性能的改进。 关键词：统计学习理论；支持向量机；半监督支持向量机；光滑函数：分类：回归 万方数据 西安邮电大学硕士学住论文 II 万方数据 ABSTRACT vector isbasedonStatistical a Theory(SLT)is Supportmachine(SVM)that Learning new ofMachine ofits on property way Learning(ML)．Inrecentlyyears，becausegood and hasbeena ofinterest 2i蠡sification，regression ability,theresurge stronggeneralization inSVM．Asa researchesonthe andthe has solution，SVM result,many theory,algorithm areainmachine alot．AndSVMbecomeanactiveresearch learning． imp