2--双变量回归：模型估计解说.ppt

理论公式也可表示为 又因为 * * 平方和的分解可决系数F统计量 拟合优度的评价 * 问题的提出 由最小二乘法所得直线究竟能否对这些点之间的关系加以反映吗？ 对这些点之间的关系或趋势反映到了何种程度？ 于是必须经过某种检验或者找出一个指标，在一定可靠程度下，根据指标值的大小，对拟合的优度进行评价。 分四个问题进行讨论：平方和分解、方差分析、拟合优度、拟合优度与简单相关系数的关系。 * 一、平方和与自由度的分解 1、总平方和、回归平方和、残差平方和的定义 2、平方和的分解 3、自由度的分解 * 1、总平方和、回归平方和、残差平方和的定义 TSS度量Y自身的差异程度，ESS度量因变量Y的拟合值自身的差异程度，RSS度量实际值与拟合值之间的差异程度。 * 2、平方和的分解 * 平方和分解的意义 TSS=ESS+RSS 被解释变量Y总的变动（差异）= 解释变量X引起的变动（差异） +除X以外的因素引起的变动（差异） 如果X引起的变动在Y的总变动中占很大比例，那么X很好地解释了Y；否则，X不能很好地解释Y。 * 3、自由度的分解 自由度是观测值的总个数中独立的观测值个数。 总自由度 dfT=n-1 回归自由度 dfR=1（自变量的个数，k元为k） 残差自由度 dfE=n-2 自由度分解 dfT=dfR+dfE * 平方和分解图 正交分解 * 为什么回归平方和是由X引起的变动 A B C * 二、方差分析 模型：y=β1+β2x+u ==OLS估计： H0: β2=0 HA: β2 ≠0 关于F检验 零假设H0：β2=0 备择H1: β2 ≠0 H0： β2 =0 ==RSS中的X不起作用，ESS变动无异于随机变动== 分子方差与分母方差是一回事==F=1 如果F显著地大于1，甚至FF?==小概率事件发生了，根据小概率原理，小概率事件在一次试验中是不可能发生的，于是H0不成立。就不能认为X没有作用。则直线是有意义的。可靠性=1- ? * 三、拟合优度（或称判定系数、决定系数） 目的：企图构造一个不含单位，可以相互进行比较，而且能直观判断拟合优劣。 拟合优度的定义： 意义：拟合优度越大，自变量对因变量的解释程度越高，自变量引起的变动占总变动的百分比高。观察点在回归直线附近越密集。 取值范围：0-1 * 拟合优度与F统计量之间的联系 F显著==拟合优度必然显著 四、拟合优度等于实际值与拟合值之间简单相关系数的平方 复习与提高 ? ? y=a+bx+u xn+1 yn+1 xn yn ? ? x2 y2 x1 y1 根据已知样本采用OLS得一拟合直线 拟合直线性质: 残差和=0 残差与自变量无关 拟合值与残差值无关 两个平均数均值相等 R2?0 TSS RSS ESS R2 R2?1 用直线反映总体 Good ? no Yes * 案例分析一：P69 掌握估计参数的性质 每周家庭消费支出与每周家庭收入之间关系 * 6.??节省原则-尽可能简单的模型。 7. 错误的函数形式—认识的局限。 * 样本回归函数(sample regression function) 在样本信息的基础上估计PRF. 样本回归函数的形式： * 估计量与估计值 一个估计量，又称样本统计量，是指一个规则或公式或方法，表明怎样用样本所提供的信息去估计总体参数。 由估计量计算出的一个具体数值称为估计或估计值 * 样本回归函数的随机形式 最后一项表示样本残差项，是ui的估计 * 回归分析中的主要目的 在回归分析中的主要目的是根据SRF 来估计PRF 由于抽样的波动，根据SRF估计的PRF只是一种近似。接下来的问题就是能够给出一种程序，告诉我们怎样构造SRF，以尽可能真实地反映PRF。 * 解决问题的思路——可能性 寻找变量之间直线关系的方法很多。于是，再接下来则是从众多方法中，寻找一种优良的方法，运用方法去求出线性模型——y=β1+β2x+u中的截距β1 =？；直线的斜率β2 =？正是本章介绍的最小二乘法。 根据该方法所得，即表现变量之间线性关系的直线有些什么特性？ 所得直线可靠吗？怎样衡量所得直线的可靠性？ 最后才是如何运用所得规律——变量的线性关系？ 最小二乘法的思路 1．为了精确地描述Y与X之间的关系，必须使用这两个变量的每一对观察值，才不至于以点概面（作到全面）。 2．Y与X之间是否是直线关系（协方差或相关系数）？若是，将用一条直线描述它们之间的关系。 3