20-21版：§1.1 回归分析的基本思想及其初步应用.pptxVIP

20-21版：§1.1回归分析的基本思想及其初步应用

回归分析概述

回归分析的基本思想

回归分析的初步应用

回归分析的检验与评估

回归分析中的常见问题及解决方法

回归分析在实际应用中的案例分析

回归分析概述

01

早期发展

回归分析的概念起源于19世纪初，当时科学家们开始使用最小二乘法来拟合直线和曲线。随着时间的推移，回归分析的理论和方法不断完善和发展。

现代发展

20世纪后半叶以来，随着计算机技术的飞速发展和大数据时代的到来，回归分析在理论、方法和应用方面都取得了巨大的进步。如今，回归分析已经成为统计学和数据分析领域中最重要和最常用的方法之一。

经济学：在经济学中，回归分析被广泛应用于研究各种经济现象之间的因果关系，如GDP增长、就业、通货膨胀等。通过回归分析，经济学家可以估计各种经济政策的效果，预测未来经济趋势，为政府和企业提供决策支持。

医学：在医学研究中，回归分析可以帮助医生了解疾病与各种生物标志物、生活方式和环境因素之间的关系。通过回归分析，医生可以预测疾病的发病率和死亡率，评估治疗方法的疗效，为临床诊断和治疗提供科学依据。

社会学：在社会学研究中，回归分析可以帮助研究者了解社会现象之间的因果关系，如教育水平、职业选择、家庭背景等对社会地位的影响。通过回归分析，社会学家可以揭示社会不平等的根源，提出改善社会问题的政策建议。

工程学：在工程学中，回归分析可以用于研究各种物理和化学过程之间的关系，如材料性能、制造工艺、设备运行等。通过回归分析，工程师可以优化产品设计，提高生产效率和质量，降低成本和风险。

回归分析的基本思想

02

参数估计

在回归分析中，我们需要估计回归方程的参数。这通常通过最小二乘法或最大似然法来实现。参数估计的结果将给出自变量对因变量的影响程度以及这种影响的显著性水平。

假设检验

回归分析中还需要进行假设检验，以验证自变量与因变量之间是否存在显著的关系。这通常涉及到对回归系数的检验，以及对整个模型的拟合优度的检验。

预测与解释

一旦回归方程建立并求解完成，我们可以使用它来预测新的数据点。同时，我们还可以解释自变量对因变量的影响程度以及这种影响的实际意义。

回归分析的初步应用

03

用一条直线来近似表示两个变量之间的关系，这条直线称为回归直线。

回归直线

最小二乘法

判定系数

通过最小化预测值与实际值之间的平方和来求解回归直线的参数。

用于衡量回归直线对数据的拟合程度，取值范围在0到1之间，越接近1说明拟合程度越好。

03

02

01

03

多重共线性

当自变量之间存在高度相关时，会导致回归系数的估计不准确，需要进行处理。

01

多元线性模型

用于描述多个自变量与一个因变量之间的线性关系。

02

偏回归系数

表示在控制其他自变量不变的情况下，某一自变量对因变量的影响程度。

回归分析的检验与评估

04

通过构造F统计量，检验回归方程是否显著，即检验自变量与因变量之间是否存在显著的线性关系。

提出假设、构造F统计量、计算F值、查F分布表确定临界值、比较F值与临界值的大小、作出决策。

检验步骤

F检验

t检验

通过构造t统计量，检验每个自变量对因变量的影响是否显著，即检验回归系数是否显著不为零。

检验步骤

提出假设、构造t统计量、计算t值、查t分布表确定临界值、比较t值与临界值的大小、作出决策。

衡量模型对数据的拟合程度，值越接近1，说明模型的拟合效果越好。

可决系数R^2

考虑自变量个数对R^2的影响，对R^2进行调整，使得模型评估更加准确。

调整后的可决系数R^2_adj

反映模型未能解释的部分，值越小，说明模型的拟合效果越好。

残差平方和SSE

衡量模型预测误差的平均水平，值越小，说明模型的预测精度越高。

均方误差MSE

回归分析中的常见问题及解决方法

05

多重共线性是指在多元线性回归模型中，解释变量之间存在高度线性相关的现象。

多重共线性定义

多重共线性的影响

多重共线性的检验

多重共线性的解决方法

导致参数估计量的方差增大，降低估计精度，甚至使参数估计量的经济意义不合理。

通过观察解释变量的相关系数矩阵、计算方差膨胀因子（VIF）等方法进行检验。

采用逐步回归法、岭回归法、主成分回归法等方法消除多重共线性的影响。

A

B

C

D

自相关性定义

自相关性是指随机误差项之间存在相关关系，不满足无自相关假设。

自相关性的影响

导致参数估计量虽然仍是无偏的，但不再是最小方差无偏估计，同时使得模型的预测精度降低。

自相关性的检验

通过观察残差图、DW检验、LM检验等方法进行检验。

自相关性的解决方法

采用广义差分法、自回归模型（AR模型）、移动平均模型（MA模型）等方法消除自相关性的影响。

回归分析在实际应用中的案例分析

06

教育质量评估

回归分析可用于评估教育质量，例如分析学生成绩与家庭背景、学校资源