第四章多元线性回归分析.pptVIP

第四章 多元线性回归分析 第四章 多元线性回归分析 第一节 多元线性回归模型 第二节 最小二乘参数估计 第三节 回归拟合度评价和决定系数 第四节 统计推断和预测 第一节 多元线性回归模型 一、模型的建立 二、多元线性回归模型的向量、矩阵表 示法 三、模型的假设 一、模型的建立 模型形式 例 二、多元线性回归模型的向量、矩阵表示法 三、模型的假设 变量 和 之间存在多元线性随机函数关系 对任意 都成立 与 无关 当 时， 解释变量都是确定性的而非随机变量，而且解释变量之间不存在线性关系 服从正态分布 第二节 最小二乘参数估计 一、最小二乘法和正规方程组 二、最小二乘估计的向量、矩阵形式 一、最小二乘法和正规方程组 样本回归方程 回归残差平方和 当 对 的一阶偏导数都等于0，得到正规方程组 那么 二、最小二乘估计的向量、矩阵形式 向量表示 回归方程的向量表示 回归残差向量 残差平方和 第二种方法求B 当 对 的一阶偏导数都等于0 对于三变量线性回归模型 最小二乘估计的性质 一、线性性 二、无偏性 三、最小二乘估计量的方差和最小方差性 一、线性性 各个参数的最小二乘估计量 二、无偏性 证明： 三、最小二乘估计量的方差和最小方差性 最小二乘估计量的方差 三、最小二乘估计量的方差和最小方差性 最小方差性：证明 三、最小二乘估计量的方差和最小方差性 因为 所以 对于三变量线性回归模型方差估计 回归残差和误差方差的估计 多元线性回归分析的残差序列 向量表示 回归残差和误差方差的估计 残差平方和的数学期望 误差项方差的无偏估计： 残差的标准差 误差方差估计 对于三变量回归模型，误差方差的估计： 样本容量问题 ⒈ 最小样本容量 所谓“最小样本容量”，即从最小二乘原理和最大似然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。 样本最小容量必须不少于模型中解释变量的数目（包括常数项）,即 n ? k+1 因为，无多重共线性要求：秩(X)=k+1 2、满足基本要求的样本容量 从统计检验的角度： n?30 时，Z检验才能应用； n-k?8时, t分布较为稳定 一般经验认为: 当n?30或者至少n?3(k+1)时，才能说满足模型估计的基本要求。 模型的良好性质只有在大样本下才能得到理论上的证明 第三节 回归拟合度评价和决定系数 两变量回归决定系数的公式 调整的可决系数 思想：可决系数只涉及到离差，没有考虑自由度。如果用自由度去校正所计算的离差，可纠正解释变量个数不同引起的对比困难。 调整的决定系数： 第四节 统计推断和预测 一、参数估计量的分布和标准化 二、统计推断和检验 三、预测 一、参数估计量的分布和标准化 参数估计量服从以下的正态分布： 或表示为 转化为标准正态分布的统计量 二、统计推断和检验 （一）单个参数的显著性和置信区间 （二）参数的显著性检验 （三）回归显著性检验 （一）单个参数的显著性和置信区间 给定置信度要求，下面的不等式应该成立： 显著性检验：令 为0，根据t 统计量水平进行判断。 因此参数 置信度为 的置信区间（或称区间估计）为： （二）模型总体显著性检验 多元回归模型每个参数的显著性与模型总体的显著性并不一定一致，也就是全体解释变量总体对被解释变量是否存在明显影响的检验，称为回归显著性检验。 回归显著性检验的基本方法，是检验模型常数项以外所有参数同时为0的假设。 原假设： 方差分析表 F检验 原假设 F检验 如果计算的F值大于F的临界值 ， （小概率），则拒绝原假设，说明回归模型有显著意义，即所有的解释变量联合起来对Y有显著影响。 如果计算的F值小于F的临界值 ， 则接受原假设，说明回归模型没有显著意义，即所有解释变量联合起来对Y没有显著影响。 可决系数的显著性检验 由方差分析可以看出，F检验与可决系数有密切联系，二者都建立在对应变量离差分解的基础上。F统计量的值也可通过可决系数计算： 四、预测 点预测 区间预测 t统计量 四、预测 置信度为 的区间预测 案例分析 中国税收增长的分析 提出问题：改革开放以来，随着经济体制改革的深化和经济的快速增长，中国的财政收支状况发生了很大变化，为了研究影响