三部分统计学习基础.pptVIP

第三部分：统计学习基础 有监督学习概述 [ESL] Chp2 回归分析 [ESL] Chp3 [Wasserman] Chp13 模型评估与选择 [ESL] Chp7/8 例：一个回归例子 例： 然后对每个数据加上高斯噪声， 目标： 通过最小化残差的平方和（RSS） 拟合 f 例：一个回归例子（续） 例：一个回归例子（续） 一些术语 有监督学习： 给定包含输入特征 和对应响应 的训练样本，学习Y与X之间的关系 对新的输入x，预测其响应y 如果输出值Y的类型是连续值：回归 根据公司的业绩和经济学数据，预测今后6个月的股票价格 根据患者血液的红外光谱，估计糖尿病患者血液中葡萄糖的含量 如果输出值Y为离散值：分类 根据数字图像，识别手写的邮政编码数据 根据邮件中单词和字符的比例，识别email是否为垃圾邮件 目标 根据训练数据， 正确预测未见过的测试样本 理解哪些输入影响输出 怎样评价预测的质量 哲学思想 理解各种技术背后的基本思想，以知道如何和在什么情况采用这些技术 先理解比较简单的方法，以便掌握更复杂的技术 正确评价方法的性能很重要，以便知道该方法在什么情况下工作得好，在什么情况下工作得不好 [简单的方法通常和那些很华丽时髦的方法工作得一样好！] 一个例子 比较两种最简单的预测方法 线性回归 k近邻法（k - nearest neighbors,