【模式识别与人工智能】09-第一章-第九节-线性回归-正则归回3.pptxVIP

第一章线性回归-正则归回3汇报人：霍世昕模式识别与人工智能授课教师：栾声扬

弹性网络模型1早期停止法2CONTENTS

PART01弹性网络模型

第九节正则归回31.9.1弹性网络模型岭回归成本函数表示样本数；表示特征数；表示正则化参数。Lasso回归成本函数弹性网络是介于岭回归和Lasso回归之间的中间地带。那么它们有什么关系呢？

什么是弹性网络模型？当多个特征存在相关时，Lasso回归可能只会随机选择其中一个，岭回归则会选择所有的特征。这时很容易的想到如果将这两种正则化的方法结合起来，就能够集合两种方法的优势，这种正则化后的算法就被称为弹性网络回归（ElasticNetRegression）。1.9.1弹性网络模型第九节正则归回3

什么是弹性网络模型？弹性网络的正则项是岭回归正则项和Lasso回归正则项的简单混合，我们可以控制混合比。当时，弹性网络等效于岭回归，而当 时，弹性网络等效于Lasso回归。1.9.1弹性网络模型第九节正则归回3弹性网络成本函数其中，是正则化参数；是混合比。

弹性网络模型的特点弹性网络模型在具有多个特征，并且特征之间具有一定关联的数据中比较有用。Lasso回归很可能只随机考虑这些特征中的一个，而弹性网络更倾向于选择两个。弹性网络模