机器学习-分类模型.pptxVIP

分类模型学习目标6.66.76.16.36.46.26.5分类模型的评估与选择概述贝叶斯分类模型Rocchio分类器模型支持向量机决策树模型KNN分类模型16.1概述summarize基本概念?分类是通过有指导的学习训练建立分类模型。分类的目的是通过学习，得到一个分类函数或分类模型（也常常称作分类器），该模型能够把数据集中的对象映射到给定类别中的某一个类上。分类的过程类似于数学上的函数映射，分类形式化定义为：假设待分类数据集合D={x1,x2,…,xN}，N为待分类的对象总数，预定义的类别用集合C表示，C={C1,C2,…,CM}，M表示类别的总数。通过常见的机器学习算法，可以得到一个分类函数f，能够把数据集D中的每一对象都能够映射到类别集合C中的一个或者多个类别。：D→C需要注意的是，预定义类别的函数f不仅可以是一对一的，也可以是一对多的。例如介绍利用计算机分析经济发展趋势的文章，既可以归纳为经济类别的文章，又可以归纳为计算机类别的文章。训练集和测试集机器学习常常需要处理的一个问题是划分训练集和测试集。训练集是用来训练模型的，给模型输入和对应的输出，让模型学习它们之间的关系。测试集是用来估计模型的训练水平，比如分类器的分类精确度、预测的误差等，可以根据测试集的表现来选择最好的模型。机器学习就是利用训练集训练出分类模型后，再用测试集来评估其误差，作为对泛化误差的估计。给定一个只包含样本对象的数据集，如何从中产生训练集和测试集呢?下面介绍三种常见的做法。1.留出法留出法（Hold-out）是直接将数据集划分成两个互斥的集合，其中一个集合作为训练集，留下的集合作为测试集。常见做法将大约2/3~4/5的样本作为训练集，剩下的作为测试集。以二分类任务为例，假设数据集包含1000个样本，我们采取7:3分样，将训练集划分为包含700个样本，测试集包含300个样本。Python通过调用train_test_split()函数按比例划分训练集和测试集，该函数在sklearn中属于model_slection模块，常用形式为：X_train,X_test,Y_train,Y_test=sklearn.model_selection.train_test_split(train_data,train_target,test_size=0.4,random_state=0,stratify=y_train)例6.1留出法生成训练集和测试集示例。importnumpyasnpfromsklearn.model_selectionimporttrain_test_splitX,Y=np.arange(10).reshape(5,2),range(5)print(X=\n,X)print(Y=\n,Y)X_train,X_test,Y_train,Y_test=train_test_split(X,Y,test_size=0.30,random_state=42)print(X_train=\n,X_train)print(X_test=\n,X_test)print(Y_train=\n,Y_train)print(Y_test=\n,Y_test)2.交叉验证法交叉验证法（CrossValidation）将源数据集划分为大小相似的若干互斥子集，每个子集都尽可能地保持数据分布的一致性。然后，将每个子集数据分别做一次测试集，其余的K-1组子集数据作为训练集，这样会得到K个模型，用这K个模型分类准确率的平均数作为此交叉验证法的性能指标。交叉验证法评估结果的稳定性和保真性在很大程度上取决于K的取值，最常用的取值是10，有时也取5或20等。通过调用KFold()函数按交叉验证法划分训练集和测试集，KFold()在sklearn中属于model_slection模块，常用形式为：KFold(n_splits=’warn’,shuffle=False,random_state=None)常用方法：(1)get_n_splits([X,y,groups])返回划分的子集数。(2)split(X[,Y,groups])返回分类后数据集的index。例6.2交叉验证法生成训练集和测试集示例。importnumpyasnpfromsklearn.model_selectionimportKFoldX=np.arange(60).reshape(30,2)print(X=\n,X)kf=KFold(n_splits=10)fortrain_index,test_indexinkf.split(X):print(X_train:\n%s%X[train_index])print(X_