人工智能基础与应用（第2版）（微课版）课件 3-2 认识线性回归.pptx

3-2认识线性回归模块?线性回归：预测未来趋势

目录CONTENTS线性回归的数学表达式01梯度下降法03线性回归的几个概念02

一.线性回归的数学表达式定义及表达式线性回归（linearregression）是一种通过拟合自变量xi与因变量y之间的最佳线性关系，来预测目标变量的方法。如果上式中只包括一个自变量x和一个因变量y，且二者的关系可用一条直线近似表示，则这种回归分析被称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量xi，且因变量y和自变量xi之间是线性关系，则称其为多元线性回归分析。

二.线性回归的几个概念1.方差衡量误差真实值:预测值:y

二.线性回归的几个概念2.总平方和SST:衡量了所有观测值相对于整体均值的离散程度。其值越大，说明原始的样本本身具有越大的波动，这种波动反映了因变量的整体偏差。如何评价上述直线对真实值拟合的好坏程度

二.线性回归的几个概念3.拟合优度R2:称为判断系数或拟合优度。由右式可知，线性回归方程以外的其他因素引起的误差SSE越小，R2就越接近1，表示此线性回归方程可以很好地解释因变量的变化；反之，如果SSE越大，接近总体偏差SST，R2就越接近0，说明此问题可能不适合采用线性回归模型解决。尽可能最小y=+

三.梯度下降法1.定义?梯度下降法：?是一种用于求解函数最小值的优化算法。其基本思想是通过迭代的方式，沿着函数的负梯度方向逐步减小函数值，直到达到局部最小值。梯度下降法适用于求解无约束优化问题，常用于机器学习中的参数优化。损失函数L可以理解为系数b和w的函数，记为寻找损失函数L(b,w)的最小值的过程，实际就是按照某种方向，不断去微调b和w的值，一步一步尝试找到这个最小值。

Min()三.梯度下降法2.求解过程

三.梯度下降法3.线性回归解决问题一般步骤01根据问题构建一个线性回归模型,即构建一个函数。02用样本训练模型，使用梯度下降法调整模型参数，目标使损失函数最小。03重复步骤（2），直至找到损失函数的最小值。04用验证集测试模型的精度，评价指标常为均方误差MSE。05如预测结果不满意，则需要改进模型（如加大训练集、改变学习率等）。06回到步骤（2），重新训练模型，直至获得满意的模型。07利用自变量xi和满意的模型去计算预测值y，从而解决预测问题。

人工智能基础与应用Thankyouverymuch!