《机器学习技术应用》课件——pro2_1_3.pptxVIP

授课教师：赵宇项目二经典案例：鸢尾花的分类

模块3:创建管道优化流程任务一KNN

技能点：2-3网格搜索任务一KNN

技能点：2-3网格搜索算法模型调节参数：如何操作更便捷？

参数网格：用户定义一个参数字典，其中包含需要调优的参数和对应的候选值列表。模型选择：GridSearchCV会为每一组参数组合训练一个模型。交叉验证：对每一组参数组合，GridSearchCV会使用交叉验证来评估模型的性能。性能评估：根据指定的评分标准，GridSearchCV会记录每一组参数的性能。最佳参数选择：遍历完所有参数组合后，GridSearchCV会选择性能最好的参数组合。GridSearchCVGridSearchCV网格搜索交叉验证通过遍历给定的参数网格使用交叉验证来评估不同参数组合的性能技能点：2-3超参数搜索算法--网格搜索/view/99.html

技能点：2-3网格搜索/elma_tww/article/details技能点：2-4网格搜索中创建管道--Scikit-Learn提供了pipeline类任务一KNN

技能点：2-4网格搜索中创建管道--Scikit-Learn提供了pipeline类/elma_tww/article/detailsromsklearn.pipelineimportPipeline###Scikit-Learn提供了pipeline类，可以将多个处理步骤合并为单个Scikit-Learn估计器###Pipeline（）管道、流水线###用于将多个数据处理步骤和模型训练步骤串联起来，形成一个完整的工作流。param_grid={svm__C:[0.001,0.01,0.1,1,10,100],svm__gamma:[0.001,0.01,0.1,1,10,100]}grid_search=GridSearchCV(pipe,param_grid=param_grid,cv=5)grid_search.fit(X_train,y_train)print(Testsetscore:{:.2f}.format(grid_search.score(X_test,y_test)))一、使用Pipeline类来表示在使用MinMaxScaler缩放数据之后再训练一个SVM的工作流程pipe=Pipeline([(scaler,MinMaxScaler()),(svm,SVC())])###由步骤列表组成的管道对象，每个步骤都是一个元组，包含一个名称（自定义）和一个估计器的实例。pipe.fit(X_train,y_train)pipe.score(X_test,y_test)###pipeline类本身具有fit、predict和score方法二、在网格搜索中使用管道我们需要为每个参数（C和gamma）指定它在管道中所属的步骤。为管道定义参数网格的语法是为每个参数指定步骤名称，后面加上__（双下划线），然后是参数名称（svm__C和svm_gamma）

技能点：2-5决策边界任务一KNN

技能点：2-5决策边界需要分类的数据中，区分不同类别的边界决策边界决定线性分类器和非线性分类器。决策边界不可以过于陡峭（过拟合）

技能点：2-5决策边界

K越小越容易过拟合，当K=1时，这时只根据单个近邻进行预测，如果离目标点最近的一个点是噪声，就会出错，此时模型复杂度高，稳健性低，决策边界崎岖。但是如果K取的过大，这时与目标点较远的样本点也会对预测起作用，就会导致欠拟合，此时模型变得简单，决策边界变平滑。技能点：2-5决策边界

技能点：2-6NeighborhoodComponentsAnalysis（NCA）任务一KNN

/view/307.html技能点：2-6NeighborhoodComponentsAnalysis（NCA）度量学习本质上做的是学习一个映射空间，使得同类的物体距离更近，而不同类物体距离更远。因此，度量学习常常和无监督近邻分类问题和维度归约问题相关但是欧式距离并不能很好的适用于所有类型的数据思考：如果能自动的学习到一种距离度量不是更好嘛？NCAＮCA是一种监督式的学习方法，同时它也是一种距离度量学习方法，其目的在于通过在训练集上学习得到一个线性空间转移矩阵，在新的转换空间中最大化平均留一分类效果。所以，算法的关键在于如何学习得到和空间转换矩阵相关的一个正定矩阵A，矩阵A可以通过定义A的一个可微的目标函数并利用迭代法求解得到。/view/307.html