向量机论文.docx

基于支持向量机和神经网络的模型识别摘要：为了有效地解决模型识别问题，分别介绍了支持向量机中的可分向量机和BP神经网络。在了解理论的基础上，将其应用与具体算例，验证了算法的可行性。关键词： 可分支持向量机 BP神经网络0 引言 支持向量机在模型识别等领域获得了广泛的应用，其主要思想是想找到一个超平面，使得它能够尽可能多地将两类数据点正确分开，同时使分开的两类数据点距离分开面最远。而人工神经网络也在当前模型识别领域非常地活跃。本文分别在介绍支持向量机和神经网络理论的基础上，将其应用于模型识别的具体问题，通过一个仿真算例验证算法的可行性。1 可分支持向量机模型当训练集T 的两类样本点集重合的区域很大时，线性支持向量分类机就不可用了，可分支持向量分类机给出了解决这种问题的一种有效途径。通过引进从输入空间到另一个高维的 Hilbert 空间 H 的变换 ,将原输入空间的训练集：转化为 Hilbert 空间 H 中的新的训练集：使其在Hilbert空间H中线性可分,Hilbert空间H也称为特征空间。然后在空间H中求得超平面,这个超平面可以硬性划分训练集T ，于是原问题转化为如下的二次规划问题： 采用核函数 K 满足：将避免在高维特征空间进行复杂的运算，不同的核函数形成不同的算法，主要的核函数有如下几类：线性内核函数 多项式核函数S形内核函数同样可以得到其 Lagrange 对偶问题如下若K是正定核，则对偶问题是一个凸二次规划问题，必定有解。求解上述最优化问题，得到最优解，选择的一个分量并以此计算构造分类函数：从而对未知样本进行分类。2 BP神经网络模型2.1 BP神经网络的分析人工神经网络是当前国际学术界十分活跃的前沿研究领域，在控制与优化、预测与管理、模式识别与图形处理、通信等方面得到了十分广泛的应用。本文使用MATLAB自带的神经网络的工具箱对病例进行判断。2.2 BP神经网络的拓扑结构BP神经网络是一种具有多层神经网络，每层都由若干个神经元组成，如图1所示，它的左、右各层之间神经元实现了全部连接。当学习模型提供给网络后，其神经元的激活值将从各层向输出层传播同时输出层还会接受隐含层的负反馈作用，随着负反馈的不断修正，网络对输出模型的正确率也不断提高。 图1 神经网络拓扑2.3 BP神经网络的训练步骤为了使得BP网络神经具有某种功能，完成某种任务，在使用MTALAB提供的工具箱的时候在对BP网络神经进行初始化显得非常重要，当测试结果不满意时需要不断修改训练样本个数、验证样本个数、测试样本个数、隐含层中神经元的个数。隐含层中神经元的个数与OUTPUT与INPUT的函数关系有关，当该函数是非线性函数时，隐含层的神经元个数应该增加。基于MATLAB工具箱BP网络神经学习算法的步骤如下：(1)初始化网络以及学习参数(2)提供训练模型，训练网络。(3)计算网络的输出结果与期望比较，有误差的话反馈到前面的隐含层。(4)计算误差，修正权值和阈值，返回步骤(2)。3 仿真及结果分析 1991年全国各省、自治区、直辖市城镇居民平均消费情况见表1，序号为1~20的省份为第一类，记为G1；序号为21~27的省份为第二类，记为G2。考察下列指标： 为人均粮食支出(元/人),为人均副食支出(元/人),为人均烟酒茶支出(元/人),为人均文化娱乐支出(元/人),为人均衣着支出(元/人),为人均日用品支出(元/人),为人均燃料支出(元/人),为人均飞上平支出(元/人)。判断西藏、上海、北京属于哪一类。表1各个地区居民平均消费情况 序号地区类型x1x2x3x4x5x6x7x81山西18.3523.537.518.2617.42101.0411.212内蒙19.2523.756.619.1917.7710.481.7210.513吉林18.1930.54.729.7816.287.62.5210.324龙江17.7329.25.429.4319.298.292.52105河南19.4227.938.28.1416.179.421.559.766甘肃19.1627.989.019.3215.999.11.8211.357青海110.0628.6410.5210.0516.188.391.9610.818河北19.0928.127.49.2617.2611.122.4912.659陕西19.4128.25.7710.816.3611.561.5312.1710宁夏18.728.127.2110.5319.4513.31.6611.9611新疆16.9329.854.549.4916.6210.651.8813.6112湖北18.6736.057.317.7516.6711.682.3812.8813云南19.9837.697.018.9416.1511.08