7无线通信信号处理_第4讲(神经网络信号处理)精选.ppt

* 神经网络固有的一些缺陷 1.网络结构难以确定 2.容易陷入局部最优 3.采用了经验风险最小化原则（ERM），即用经验风险取代期望风险：根据概率论中的大数定理，只有当样本数目趋向无穷时，经验风险才趋向于期望风险 * 支持向量机 支持向量机(Support Vector Machines, SVM) 可以避免以上缺陷： 1.将问题转化为二次规划问题，理论上可以得到全局最优解 2.建立在统计学的VC（Vapnik-Chervonenks Dimension）维理论和结构化风险最小化原则(Structural Risk Minimization, SRM)的基础上，有效地避免了维数灾 难。 3.可以较好地解决小样本问题 * 机器学习的基本问题 机器学习问题的表示 G ----发生器 S ----训练器 LM--信息机 * 支持向量机的背景和原理 背景 支持向量机（SVM)是基于统计学习理论(Statistical Learning Theory或SLT)的一种新型机器学习方法,它由V. Vapnik等在1992年提出。随着SLT理论的不断完善，SVM也越来越受到人们的重视，目前，SVM算法在模式识别、回归估计、概率密度函数估计等方面都有应用。 * 支持向量机理论 SVM从线性可分情况下的最优分类面发展而来。 最优分类面就是要求分类线不但能将两类正确分开(训练错误率为0),