3双变量回归模型估计问题解说.pptVIP

第 三 章 双变量回归分析： 估计问题 基本内容 普通最小二乘法（OLS） 经典线性回归模型：OLS的基本假定 OLS估计的性质 判定系数r2：“拟合优度”的一个度量 普通最小二乘法 （Ordinary Least Squares ，OLS） 最小二乘准则 最小二乘准则 OLS估计量的良好性质 容易计算（由可观测的样本表达） 是点估计量 容易画出SRF，且SRF： （1）通过样本均值点 （2）残差与Yi的预测值不相关 （3）残差与Xi不相关 经典线性回归模型 OLS的基本假定 线性回归模型 X值是固定的或独立于误差项 干扰项ui的均值为0 干扰项ui的同方差性 各干扰项之间无自相关 观测次数n必须大于待估计的参数个数 X变量的性质 （1）对模型和变量的假定 如 假定解释变量 是非随机的，或者虽然是随机的，但与扰动 项 是不相关的 假定解释变量 在重复抽样中为固定值 假定变量和模型无设定误差 （2）对随机扰动项的假定 假定1，零均值 E(ui|Xi）=0 假定2：同方差假定 在给定X的条件下，ui的条件方差为某个常数 假定3 无自相关假定 Cov（ui，uj|Xi，Xj）=0 Cov（ui，uj）=E[ui-E(ui)][uj-E(uj)] =E(uiuj) =0 Y的分布性质 OLS估计的标准误（精度） OLS估计的性质： 高斯-马尔可夫定理 在给定经典线性回归模型的假定下，OLS估计量在所有线性无偏估计量中具有最小方差，也就是说，它们是最优线性无偏估计量（BLUE)。 无偏性 第三节 拟合优度的度量 本节基本内容: ●什么是拟合优度 ●总离差的分解 ●判定系数 总离差的分解 Y的观测值围绕其均值的总变异分为两部分：一部分来自回归线，另一部分来自随机因素。 将上式平方加总可整理得： 即： 定义 总离差(TSS): Y的值与其均值的离差平方和（总平方和） 解释了的离差(ESS): Y的估计值与其均值的离差平方和（回归平方和） 未解释的离差 (RSS): Y的值与其估计值之差的平方和（剩余平方和） r2=？ r2=？ r2测度了在Y的总变异中由回归模型解释的那个部分所占的比例或百分比。 r2的作用 r2越大，模型拟合优度越好。反之说明模型对样本观测值的拟合程度越差。 r2的特点 随抽样波动，样本判定系数r2是随抽样而变动的随机变量 r2与r * *  正规方程和估计式 用克莱姆法则求解得观测值形式的OLS估计量： 取偏导数为0，得正规方程 为表达得更简洁，或者用离差形式OLS估计式： 注意其中： 用离差表现的OLS估计式 小结 估计值 偏倚 概 率 密 度 概 率 密 度