(4.1)--4.1 SVM数学模型机器学习与模式识别.pptVIP

MathematicModellingofSVMproblemSVM问题的数学模型

CHAPTERONE问题原型Prototype

一、问题原型如果平面中至少存在一条线，且所有蓝点在该线的一侧，而所有红点在另一侧，则两组是线性可分离的。什么是线性可分问题？线性分类器的性能比较：哪个分类器的性能更好？

一、问题原型分类器对未知数据的处理能力什么是模型的泛化能力？如何根据泛化性能考虑模型设计？

一、问题原型决策面由方向参数??和空间位置参数??共同决定SVM问题原型目标找到能产生最大间隔的决策面支持向量每类中距离决策面最近的样本?决策面必须与两类的支撑向量具有相同的距离

CHAPTERTWO数学模型MathematicModel

二、数学模型优化变量：决策面方程SVM约束优化问题——“三要素”如何定义？目标函数：分类间隔（最大化）如何计算？约束条件：所有训练样本被正确分类如何用数学形式表达？

二、数学模型线性决策超平面方程要素1：优化变量——超平面方程???

二、数学模型分类间隔：支持向量到决策面距离的2倍要素2：目标函数——间隔的计算???

二、数学模型对方向参数向量??的约束要素3：约束条件——基本描述-并非所有方向都能找到使训练样本被完全正确分类的决策面对位置参数??的约束-决策超平面的位置必须是间隔区域的中心?-支持向量到中心轴的距离为??-支撑向量的选择决定了决策超平面的方向和位置

二、数学模型整合三个约束条件：步骤1????要素3：约束条件——约束条件的整合

二、数学模型整合三个约束条件：步骤2要素3：约束条件——约束条件的整合??令：??

二、数学模型整合三个约束条件：步骤3要素3：约束条件——约束条件的整合?(1)和(2)是同一个超平面！?

二、数学模型间隔宽度??=2??可以被简化：建立数学模型?为什么可以简化？-间隔宽度由决策面方向确定-决策面方向须满足约束条件；目标函数的新形式：???

二、数学模型线性SVM优化问题的数学描述建立数学模型?数学模型特性-目标函数为二次多项式函数，属于有约束凸优化问题-??个不等式约束条件，每个训练样本{????，????}对应一个约束条件；

总结SummaryCHAPTERTHREE

LMPRMADEBYDONGYUECHENTHANKYOU感谢聆听