机器学习理论与应用_课件a 第2章回归分析a.pptx

第2章

回归分析;内容提要

概述

一元线性回归

多元线性回归

多项式回归

回归分析的效果评价

逻辑回归;概述;概述;内容提要

概述

一元线性回归

多元线性回归

多项式回归

回归分析的效果评价

逻辑回归;;一元线性回归公式的建立与使用;将残差平方和作为目标函数（或称损失函数）

最小化这个目标函数来求出回归系数w1和w0。

依据关于函数极值的定理，令目标函数对系数变量w1和w0的偏导数为零：

;一元线性回归公式的建立;一元线性回归公式的使用;一元线性回归之例题;内容提要

概述

一元线性回归

多元线性回归

多项式回归

回归分析的效果评价

逻辑回归;;多元线性回归的损失函数;;目标函数的矩阵求逆解法;采用数值近似计算方法求目标函数的最小值，同时获得对应的回归系数。

例如，基于梯度下降法的数值近似计算。从几何角度看，对一个函数的偏导数就是梯度，该函数的值下降最快的方向是负梯度方向。

对XTX求逆，当某些特征之间的线性相关性比较大时，XTX的行列式接近于0，很可能出现病态矩阵现象（即矩阵中某个元素的很小的变动引起计算结果的误差很大）

一种解决方法是使用能处理共线性和病态矩阵问题的岭回归方法。;内容提要

概述

一元线性回归

多元线性回归

多项式回归

回归分析的效果评价

逻辑回归;多项式回归;多项式回归;多项式回归之例题;内容提要

概述

一元线性回归

多元线性回归

多项式回归

回归分析的效果评价

逻辑回归;回归分析的效果评价;回归分析的评价指标;回归分析的评价指标;回归分析的评价指标;回归分析的评价指标;回归效果评价之例题