第三章 二元回归最小二乘法.ppt

第三章 最小二乘法 两个自变量的最小二乘法 问题的提出 现实生活中引起因变量变化的因素并非仅只一个自变量，可能有很多个自变量。为了简便先讨论只有两个自变量的线性模型。 例如，产出往往受各种投入要素——资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响。 所以在一元线性模型的基础上，提出了二元线性模型：Yi=a+b1Xi1+b2Xi2+ui 解决问题的思路 在二元模型中要估计的乃是一个平面。 选取最好“平面”的准则，仍然是实际点到拟合平面（通常仍称它为拟合直线）的纵向距离最小——拟合值尽可能逼近真值，即使残差（实际值减去拟合直线上对应的Y^值）的平方和最小。 于是将问题转化为一个求极值的数学问题。 第一节 含两个自变量的最小二乘法 原始数据的矩阵表示 数学原理 正规方程 正规方程的解 正规方程解的行列式表示 最小二乘法的矩阵表示 一元原始数据 原始数据的矩阵表示 数学原理 正规方程 正规方程的矩阵表示 正规方程的解 正规方程解的行列式表示 简化了正规方程的矩阵表示 最小二乘法的矩阵表示 原始数据的矩阵表示 简化——中心化处理 销售额SALES与价格PRICE、广告费ADS之间的关系 手工计算步骤 （1）对照公式计算各个离均差求和项 （2）代入公式 （3）掌握公式用行列式表现的形式 EViews计算步骤 （1）生成由SALES、价格PRICE、广告费ADS构成的组，并对组命名 （2）观察它们的协方差矩阵、相关系数矩阵 （3）分别观察销售额SALES与价格PRICE和广告费ADS的散点图 （4）选择PROCE中的EQUATION得到估计结果 注意设计估计方程的两种形式 （5）熟悉各个统计量的意义 拟合优度、F、偏回归系数、系数的标准误、t、概率 （6）观察方程的各种表现形式 拟合直线方程的建立 （7）将估计结果复制到研究报告中 销售额、广告费、价格模型的经济意义 请同学们回答！ 偏回归系数的意义 在价格PRICE保持不变的条件下，广告费ADS变化一个单位将引起销售额SALES平均变化b1= 1.6097306个单位； 在广告费ADS保持不变的条件下，价格PRICE变化一个单位将引起销售额SALES平均变化b2= - 1.3069856个单位。 拟合优度与F检验 关于F检验 零假设H0：b1=b2=0 备择HA：至少一个不为0 H0：b1=b2=0 ==RSS中的X1、X2不起作用，RSS变动无异于随机变动== 分子方差与分母方差是一回事==F=1 如果F显著地大于1，甚至FF?==小概率事件发生了，根据小概率原理，在一次试验中小概率事件是不可能发生的，居然发生了，错在哪儿？原来是H0不成立。于是，就不能认为X1、X2 同时没有作用（但并不排除其中一个无意义）。则直线是有意义的。可靠性=1- ? EVIEWS输出的估计结果 共分3个部分，顶部处理信息： EVIEWS输出的估计结果 共分3部，底部为描述统计量和检验统计量 EVIEWS输出的估计结果 共分3部分，中部关于系数的估计及其检验 建立回归方程 拟合回归“直线”的性质 1．残差和等于零，残差的均值为0； 2．拟合值的均值等于因变量的实际均值； 3．残差与每一个自变量都不相关； 4．残差与拟合值不相关 第二节 二元回归最小二乘法解法又探 偏回归系数与相关系数间的关系 1．两个自变量的相关系数=0时 2．两个自变量的相关系数=1时 3．相关系数不等于0时 3．两个自变量对Y的作用路径 X1、X2对Y作用的图解 4．应当将其它自变量的作用分离出来，以利于分析和解释 偏回归系数与相关系数间的关系 1．两个自变量的相关系数=0时 二元回归方程中的系数等于一元回归方程中的系数 2．两个自变量的相关系数=1时 存在多重共线，无法对回归系数进行估计 3．相关系数不等于0也不等于1时 二元回归方程中的系数与一元回归方程中的系数谁大谁小，取决于公式中两个自变量间协方差等的符号和大小 相关系数=0，各个自变量的系数直接说明了它们对因变量的影响。 相关系数0，又不等于1，最好将两个自变量间的相互作用分离开来，以便于自变量对因变量作用的解释。 3．两个自变量对Y的作用路径 （1）X1本身对Y的净作用 （2）X1的变化引起X2的变化（因为存在相关），再通过X2引起Y的变化 （3）X2本身对Y的净作用 （4）X2的变化引起X1的变化（因为存在相关），再通过X1引起Y的变化 X1、X2对Y作用的图解 4．应当将其它自变量的作用分离出来，以利于分析和解释 单独用X1对Y进行回归所得回归系数中（如同简单相关系数一样）裹胁了X2引起X1变化，再引起Y的变化，这种变化成为间接影响。所以往往造成一些假象。 一元回归系数=X1的净影响+其它自变量的间接影响 二元回归系数中则只