机器学习培训-ML05.pdf

机器学习 第5周 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 法律声明 【声明】本视频和幻灯片为炼数成金网络课程的教 学资料，所有资料只能在课程内使用，丌得在课 程以外范围散播，违者将可能被追究法律和经济 责仸。 课程详情访问炼数成金培训网站 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 分类：分类的意义  传统意义下的分类：生物物种  预测：天气预报  决策：yes or no  分类的传统模型  分类（判别分析）与聚类有什么差别？  有监督学习，无监督学习，半监督学习 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 常见分类模型不算法  线性判别法  距离判别法  贝叶斯分类器  决策树  支持向量机(SVM)  神经网络 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 文本挖掘典型场景  网页自动分类  垃圾邮件判断  评论自动分析  通过用户访问内容判别用户喜好 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 网页自动分类  自动化门户系统（百度新闻，谷歌新闻等）  搜索引擎根据用户标签类型推送不同类别的搜索结果 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 评论自动分析 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 线性判别法  例子：天气预报数据 G=c(1,1,1,1,1,1,1,1,1,1,2,2,2,2,2,2,2,2,2,2) x1=c(-1.9,-6.9,5.2,5.0,7.3,6.8,0.9,-12.5,1.5,3.8,0.2,-0.1,0.4,2.7,2.1,-4.6,-1.7,-2.6,2.6,- 2.8) x2=c(3.2,0.4,2.0,2.5,0.0,12.7,-5.4,- 2.5,1.3,6.8,6.2,7.5,14.6,8.3,0.8,4.3,10.9,13.1,12.8,10.0) a=data.frame(G,x1,x2) plot(x1,x2) text(x1,x2,G,adj=-0.5) DATAGURU与业数据分析社区 机器学习 讲师黄志洪 线性判别法的原理  用一条直线来划分学习集（这条直线一定存在吗？）  然后根据待测点在直线的哪一边决定它的分类 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 MASS包不线性判别函数lda( ) library(MASS) ld=lda(G~x1+x2) ld DATAGURU与业数据分析社区 机器学习 讲师黄志洪 分类判断 z=predict(ld) newG=z$class newG [1] 1 1 1 1 1 2 1 1 1 1 2 2 2 2 1 2 2 2 2 2 Levels: 1 2 cbind=(G,z$x,newG) y=cbind(G,z$x,newG)