【模式识别与人工智能】08-第一章-第八节-线性回归-正则归回2.pptxVIP

第一章线性回归-正则回归2模式识别与人工智能授课教师：栾声扬汇报人：皮雪玉

岭回归1L2正则化2CONTENTS

PART01岭回归

第八节正则回归21.8.1岭回归问题引入一元线性模型：多元线性模型：多项式模型：代价函数：使用梯度下降法来更新参数和使代价函数最小，找到最佳模型，可能会导致过拟合现象。

1.8.1岭回归问题引入过拟合，简单来说就是模型对当前数据拟合得非常好，训练集上的误差损失甚至可以等于0。模型把当前训练集的特有规律学了，反而没有学到普遍规律。那么训练新的一批数据时，模型可能学到的又是别的东西。这将导致模型预测的结果非常不稳定，具有高方差出现过拟合。第八节正则回归2

1.8.1岭回归问题引入xy模型过拟合和正常拟合图形对比。绿色为过拟合模型，红色为正常拟合图形。过拟合的原因：模型过于复杂；原始特征过多；存在嘈杂特征。如何解决过拟合问题。方法一：岭回归方法图1正常模型与过拟合对比图第八节正则回归2

1.8.1岭回归什么是岭回归？岭回归就是在基本的线性回归的均方误差基础上加上一个L2正则化项。岭回归的作用？加入L2正则项的主要作用是使各个特征的权重尽量衰减，从而在某种程度上达到一种特征变量选择的效果，使拟合更平滑。第八节正则回归2

1.8.1岭回