回归分析 刘超 第3章 多元线性回归.pdf

回归分析 ——方法、数据与R的应用 刘超 statchao@buaa.edu.cn 北京航空航天大学数学科学学院 2020年1月20 日 课件仅供教学使用 刘 超 ，回归分析——方法、 数据与R的应用，高等教育 出版社，2019年10月 第3章 多元线性回归 上课之前的话 在许多实际问题中，影响因变量的因素往往有很多 有时候，为了尽可能全面地阐述问题，我们会尽可 能获得较多的自变量,有时候也可以通过对原始变量 进行变换、创建交互项或添加多项式项等方式衍生 出许多新变量。 此时可以使用多元回归(multiple regression)建模 当因变量与各自变量之间为线性关系时，称为多元 线性回归(multiple linear regression) 目的与要求 (1)掌握多元线性回归的基本原理,会进行参数的估 计和假设检验 (2)掌握模型检验和评价方法 (3)会使用回归模型进行预测 (4) 了解多元线性回归与一元线性回归的区别 (5)掌握多元线性回归模型在R软件中的实现 3.1 基本模型 3.1 基本模型 多元线性回归模型为 y =β +β x +…+β x +ε 0 1 1 p p 式中，y 是因变量，也叫被解释变量；x ,x …,x 是自变量，也 1 2 p 叫解释变量、预测变量; 参数β ,β ,…,β 可通过最小二乘方法或者极大似然估计法得到 0 1 p ε 为误差或随机干扰，与一元线性回归模型一样，假设ε的均值 为0 ，方差为σ2 3.1 基本模型 如果得到y,x ,x ,…,x 的观测值(y,x ,x ,…,x ) ，i=1,2,…,n ，那么 1 2 p i i1 i2 ip 对于每一个观测值就有: y =β +β x +β x + …+β x + ε （i=1,2,…,n ） i 0 1 i1 2 i2 p ip i • 式中，y 表示因变量y 的第i个观测值，x 表示自变量x 的第 i j i j i个观测值，ε表示误差。 i 还可以采用矩阵符号表示多元线性回归模型: y=Xβ+ε • 其中 11 12 … 1 21 22 … 2 y= ( ,…, ),X= ,β ( , ,…, ),ε ( ,…, ) 1 ︙ ︙ ︙ ︙ 1 2 1 1 2 … 3.1 基本模型 多元线性回归本质上是一元线性回归的推广，它 的模型设定、参数估计及结果输出等