神经网络与支持向量机的区别0430.docVIP

神经网络与支持向量机的区别 神经网络是基于传统统计学的基础上的。传统统计学研究的内容是样本无穷大时的渐进理论，即当样本数据趋于无穷多时的统计性质，而实际问题中样本数据往往是有限的。因此，假设样本数据无穷多，并以此推导出的各种算法很难在样本数据有限时取得理想的应用效果。 支持向量机则是基于统计学理论的基础上的，可以克服神经网络难以避免的问题。通过支持向量机在逼近能力方面与BP网络仿真结果的比较表明，支持向量机具有较强的逼近能力和泛化能力。支持向量机因其特有的优越性在将越来越受到各领域的重视，具有很好的应用前景。 查阅若干资料表明： 1. 神经网络的优化目标是基于经验的风险最小化，这就不能保证网络的泛化能力。尽管存在以上问题，神经网络仍然取得了很多成功应用，其原因在于，神经网络的设计与设计者有很大的关系。设计者若在网络设计过程中有效的利用了自己的经验知识和先验知识，可能会得到较理想的网络结构。因此，神经网络系统的优劣是因人而异的。 2. 支持向量机是以统计学理论为基础的，因而具有严格的理论和数学基础，可以不像神经网络的结构设计需要依赖于设计者的经验知识和先验知识。支持向量机与神经网络的学习方法相比，支持向量机具有以下特点： 1)支持向量机是基于结构风险最小化原则，保证学习机器具有良好的泛化能力； 2)解决了算法复杂度与输入向量密切相关的问题； 3)通过引用核函数，将输入空间中的非线性问题映射到高维特征空间中在高维空间中构造线性函数判别； 4)支持向量机是以统计学理论为基础的，与传统统计学习理论不同。它主要是针对小样本情况，且最优解是基于有限的样本信息，而不是样本数趋于无穷大时的最优解； 5)算法可最终转化为凸优化问题，因而可保证算法的全局最优性，避免了神经网络无法解决的局部最小问题； 6)支持向量机有严格的理论和数学基础，避免了神经网络实现中的经验成分。 此外，文献《煤粉射流的高温空气燃烧特性与燃煤锅炉低NOx燃烧优化研究》第六章对NOx排放模型预测研究中采用了多种方法，其中包括神经网络跟支持向量机，最后模型比较中说明了支持向量机的优势。 需要特别说明的是，一般情况下，支持向量机无论在分类问题，还是在回归问题中都比神经网络具有优势。但是当样本有限时建议采用支持向量机，当样本数量很大时，建议采用神经网络。