原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
监督学习方法下
1
目录
q模型选择与优化
q模型评价方法
q模型解读
2
模型优化
Ø理想的预测模型应该具有较好的泛化能力。同时，模型应具备
低偏差（lowbias）和低方差（lowvariance）的属性。
(b)
预测模型中的偏差与方差示意图
3
模型优化
输入变量X：1、2、3、4、5输出变量Y：1、8、27、64、125
不难发现YX3
假如此时选取一次线性模型，可
以想象模型偏差较大，原因是算
法本身过于简单，建立的模型将
具有高偏差、低方差属性，此类
现象被称为欠拟合（under-
fitting）；
当X和Y本身存在的关系可以通过
一次线性模型进行有效表征，但
采用了高阶函数，那么模型会很
容易出现低偏差、高方差的问题，模型欠拟合与过拟合示意图
即过拟合（over-fitting）。
模型训练、优化及评估流程
Ø为了保证模型训练、优化和评估的有效性，通常要对既有数据
进行预先分割。
如图（a）所示，最常见的分割方法是按照特定比例对既有数据进行随
机无放回采样，比如按照70%：30%的比例随机抽选数据样本，形成训
练和测试数据集。
上述比例不是固定的，可以根据实际情况进行调整，只需保证有足够的测试数
据即可。
(a)(b)
常见的数据分割方法及预测建模示意图
模型训练、优化及评估流程
(a)(b)
常见的数据分割方法及预测建模示意图
（a）的主要局限在于没办法满足在测试阶段前对不同模型的对比需
求。
比如，假设想要对比不同超参数下某一监督学习算法的预测效果，只
能建立不同超参数下的模型，然后根据其在测试数据中的表现筛选出
最优的模型超参数。
但是，此时便没有多余的、算法未见过的数据来公平地评价最优模型
的泛化能力了。
模型训练、优化及评估流程
(a)(b)
常见的数据分割方法及预测建模示意图
Ø为了满足模型对比和超参数调优需求，实践中通常会采取（b）所示
的分割方法，即按照特定比例将数据分为训练、验证和测试数据集。
（1）根据训练数据建立不同类型或者不同超参数下的预测模型；
（2）根据不同模型在验证集中的表现确定最优模型设置；
（3）使用最优模型设置，综合运用训练和验证数据建立最优预测模型；
（4）使用测试数据评估最优模型的泛化能力。
模型训练、优化及评估流程
(a)(b)
常见的数据分割方法及预测建模示意图
（b）方法存在局限：
•分割形成的训练和验证数据存在随机性，最优模型设置可能存在偏
差；
•数据资源较稀缺时，数据利用率不高，模型在首次训练过程中并未
充分考
文档评论（0）