原创力文档- 1、本文档共10页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
3.6分类算法3.6.3支持向量机SVM1.SVM适用于二分类2.SVM核心是寻找具有最大间隔的分割超平面类别1样本类别1样本中的支持向量类别2样本类别2样本中的支持向量分割超平面（决策边界）
3.6分类算法3.6.3支持向量机SVM求解参数：w，b线性可分
3.6分类算法3.6.3支持向量机SVM线性不可分加入松弛变量，边界附近的点不计入损失软间隔损失
3.6分类算法3.6.3支持向量机SVM利用核技巧将非线性问题转换为线性问题/x/page/k05170ntgzc.html参考动画
3.6分类算法3.6.4决策树+随机森林职业、年龄、收入、学历贷款意向？职业年龄收入学历是否贷款自由职业285000高中是工人365500高中否白领453300小学是白领2510000本科是……………问题导入：给定数据集，如何根据每个用户的特征判断其是否有贷款意向？
3.6分类算法3.6.4决策树+随机森林每次选择哪个特征进行划分？一个可能的决策树如下核心问题：
3.6分类算法3.6.4决策树+随机森林假设样本集特征标签特征个数连续特征通过分桶转换为离散特征样本的熵定义如下
3.6分类算法3.6.4决策树+随机森林的信息增益定义如下：为满足条件的样本集的子集经典的ID3决策树采用信息增益最大的特征作为下一个划分特征某一特征取值共有种选取特征
3.6分类算法3.6.4决策树+随机森林防止过拟合的方法损失函数增加正则项限制叶节点数量通过预剪枝和后剪枝提高泛化利用集成思想建立随机森林
3.6分类算法3.6.4决策树+随机森林优势：1.决策树易于理解和实现.2.能够同时处理离散和连续变量，其他的算法往往要求数据属性的单一3.对缺失值不敏感4.效率高，每一次预测的最大计算次数不超过树的深度。缺点1.容易过拟合2.当类别太多时，决策树的建立相对复杂，错误率也会上升3.在处理特征关联性比较强的数据时表现得不是太好
文档评论（0）