正则化线性回归与偏差方差分析实践.pdfVIP

编程练习5：正则化线性回归与偏

差v.s.方差

机器学习

引言

在本练习中，您将实现正则化的线性回归，并使用它来研究具有不同偏差‑

方差特性的模型。在开始编程练习之前，我们强烈建议您讲座并

完成相关的复习问题。

要开始该练习，您需要起始代码并将其解压到您希望完成练习的

目录。如果需要，请在开始此练习之前使用cd命令在

Octave/MATLAB中切换到该目录。

您还可以在课程的“环境设置说明”中找到安装Octave/MATLAB的

说明。

本练习中包含的文件

ex5.m‑带领你完成练习的Octave/MATLABex5data1.mat‑数

据集submit.m‑将你的解决方案提交到我们服务器的提交

featureNormalize.m‑特征归一化函数fmincg.m‑函数最小化例程

（类似于fminunc）plotFit.m‑绘制多项式拟合图

trainLinearReg.m‑使用你的代价函数训练线性回归模型

[?]linearRegCostFunction.m‑正则化线性回归代价函数

[?]learningCurve.m‑生成学习曲线[?]polyFeatures.m‑将数据映射

到多项式特征空间[?]validationCurve.m‑生叉验证曲线

ProgrammingExercise5:

RegularizedLinearRegressionandBiasv.s.

Variance

MachineLearning

Introduction

Inthisexercise,youwillimplementregularizedlinearregressionanduseitto

studymodelswithdifferentbias-varianceproperties.Beforestartingonthe

programmingexercise,westronglyrecommendwatchingthelectures

andcompletingthereviewquestionsfortheassociatedtopics.

Togetstartedwiththeexercise,youwillneedtodownloadthestarter

codeandunzipitscontentstothedirectorywhereyouwishtocompletethe

exercise.Ifneeded,usethecdcommandinOctave/MATLABtochangeto

thisdirectorybeforestartingthisexercise.

YoucanalsofindinstructionsforinstallingOctave/MATLABinthe“En-

vironmentSetupInstructions”ofthecoursewebsite.

Fiincludedinthisexercise

ex5.m-Octave/MATLABscriptthatstepsyouthrough