机器学习之线性回归、岭回归和Lasso回归.docxVIP

  • 23
  • 0
  • 约4.25千字
  • 约 7页
  • 2021-02-17 发布于天津
  • 举报

机器学习之线性回归、岭回归和Lasso回归.docx

线性回归假设有数据有其中为训练集样本数为其中样本维度是样本的真实值线性回归采用一个高维的线性函数来尽可能的拟合所有的数据点最简单的想法就是最小化函数值与真实值误差的平方概率解释高斯分布加最大似然估计即有如下目标函数其中线性函数如下加丁枷圳仇此构建好线性回归模型的目标函数之后接下来就是求解目标函数的最优解即一个优化问题解目标函数常用的梯度优化方法都可以拿来用这里以梯度下降法来求八一岛亦士切屁一另外线性回归也可以从最小二乘法的角度来看下面先将样本表示向量化构成如下数据矩阵那么目标函数向量化形式如下可

A、线性回归 假设有数据有:〔 R。其中m为训练集样本数,n为 其中 样本维度,y是样本的真实值。线性回归采用一个高维的线性函数来尽可能的 拟合所有的数据点,最简单的想法就是最小化函数值与真实值误差的平方(概 率解释-高斯分布加最大似然估计)。即有如下目标函数: 0 1 mill J (if } 其中线性函数如下:[ /加(丁 j =枷■圳;Tn旳hT; ‘卄k仇‘此 71 -W 』J 构建好线性回归模型的目标函数之后,接下来就是求解目标函数的最优解, 即一个优化问题。 解目标函数。 常用的梯度优化方法都可以拿来用,这里以梯度下降法来求 八=一 C岛』() c亦 2 乂(號 」 z=i ti

文档评论(0)

1亿VIP精品文档

相关文档