现代机器学习 课件 第1章 机器学习概述.pptx

第1章机器学习概述;

1.1机器学习的基本概念;

1.2机器学习的基本类别;

分类问题的关键就是找到决策边界,用于对数据进行分类。回归问题主要是预测自变量和因变量间的关系。回归模型正是表示从输入变量到输出变量之间映射的函数,其目的是找到最优拟合函数;这个拟合函数可以最好地接近数据集中的各个点,故名回归。;

1)线性模型

线性模型的基本形式如下:给定由d个属性描述的示例x=(x1,x2,…,xi,…,xd),其中xi是x在第i个属性上的取值,i=1,2,…,d。线性模型试图得到一个通过属性的线性组合来进行预测的函数,即

一般用向量形式写成

其中,w=(w1,w2,…,wd),w和b学得之后,模型就得以确定。;

2)决策树

决策树是一类常见的机器学习方法。以二分类任务为例,从给定训练数据集学得一个模型,用以对新示例进行分类,分类的过程即“决策”或“判定”过程。顾名思义,决策树是基于树结构来进行决策的,这恰恰是人类在面临决策问题时的一种很自然的处理机制。

;

例如,我们要对“能否偿还贷款债务”这样的问题进行决策时,通常会进行一系列的判断或“子决策”:我们先看“年收入”,如果是“大于97.58万”,答案是“是”,则判断可以偿还;否则,我们再看“是否拥有房产”,答案是“是”,则判断可以偿还;否则,我们再看“婚姻状况”,答案是