应用回归_第2章课后习题参考课稿.docVIP

2.1 一元线性回归模型有哪些基本假定？ 答：1. 解释变量 是非随机变量，观测值是常数。 2. 等方差及不相关的假定条件为 这个条件称为高斯-马尔柯夫 Gauss-Markov 条件，简称G-M条件。在此条件下，便可以得到关于回归系数的最小二乘估计及误差项方差估计的一些重要性质，如回归系数的最小二乘估计是回归系数的最小方差线性无偏估计等。 3. 正态分布的假定条件为 在此条件下便可得到关于回归系数的最小二乘估计及估计的进一步结果，如它们分别是回归系数的最及的最小方差无偏估计等，并且可以作回归的显著性检验及区间估计。 4. 通常为了便于数学上的处理，还要求及样本容量的个数要多于解释变量的个数。 在整个回归分析中，线性回归的统计模型最为重要。一方面是因为线性回归的应用最广泛；另一方面是只有在回归模型为线性的假设下，才能的到比较深入和一般的结果；再就是有许多非线性的回归模型可以通过适当的转化变为线性回归问题进行处理。因此，线性回归模型的理论和应用是本书研究的重点。 1. 如何根据样本求出及方差的估计; 2. 对回归方程及回归系数的种种假设进行检验； 3. 如何根据回归方程进行预测和控制，以及如何进行实际问题的结构分析。 2.2 考虑过原点的线性回归模型 误差仍满足基本假定。求的最小二乘估计。 答： 令即 解得即的最小二乘估计为 2.3 证明： Q ， ∑ -- 2 因为Q , min Q , 而Q , 非负且在上可导,当Q取得最小值时，有 即-2∑ -- 0 -2∑ -- 0 又∵ - + -- ∴∑ 0，∑ 0 （即残差的期望为0，残差以变量x的加权平均值为零） 2.4 解：参数β0，β1的最小二乘估计与最大似然估计在εi~N 0, 2 i 1,2，……n的条件下等价。 证明：因为 所以 其最大似然函数为 已知使得Ln（L）最大的，就是，的最大似然估计值。 即使得下式最小 ： ① 因为①恰好就是最小二乘估计的目标函数相同。 所以，在 的条件下， 参数β0，β1的最小二乘估计与最大似然估计等价。 2.5.证明是的无偏估计。 证明：若要证明是的无偏估计，则只需证明E 。 因为，的最小二乘估计为 其中 E E E E[] E[] E +E +E 其中 由于 0，所以 0 又因为一元线性回归模型为 所以E 0所以 E +E +E 所以是的无偏估计。 2.6 解：因为 ①， ②， ③ 联立 ①②③式，得到。 因为，，所以 2.7 证明平方和分解公式：SST SSE+SSR 证明： 2.8 验证三种检验的关系，即验证： （1）；（2） 证明：（1）因为，所以 又因为，所以 故 得证。 （2） 2.9 验证（2.63）式： 证明： 其中： 注：各个因变量是独立的随机变量 2.10 用第9题证明是的无偏估计量 证明： 注： 2.11验证 证明： 所以有 以上表达式说明r 2与F 等价，但我们要分别引入这两个统计量，而不是只引入其中一个。理由如下： ①r 2与F，n都有关，且当n较小时，r较大，尤其当n趋向于2时，|r|趋向于1，说明x与y的相关程度很高；但当n趋向于2或等于2时，可能回归方程并不能通过F的显著性检验，即可能x与y都不存在显著的线性关系。所以，仅凭r较大并不能断定x与y之间有密切的相关关系，只有当样本量n较大时才可以用样本相关系数r判定两变量间的相关程度的强弱。 ② F检验检验是否存在显著的线性关系，相关系数的 显著性检验是判断回归直线与回归模型拟合的优劣，只有二者结合起来，才可以更好的回归结果的好坏。 2.12 如果把自变量观测值都乘以2，回归参数的最小二乘法估计和会发生什么变化？如果把自变量观测值都加上2，回归参数的最小二乘估计和会发生什么变化？ 解: 解法（一）：我们知道当，时，用最小二乘法估计的和分别为⑴当时 有 将②③带入①得到 ⑵当时 有 将②③带入①得到· 解法（二）： 当，时，有 当时 当 ， ， 由最小二乘法可知，离差平方和时，其估计值应当有 。 即回归参数的最小二乘估计和在自变量观测值变化时不会变。 2.13 如果回归方程相应的相关系数r很大，则用它预测时，预测误差一定较小。这一结论能成立吗？对你的回答说明理由。 解：这一结论不成立。因为相关系数r表示x与线性关系的密切程度，而它接近1的程度与数据组数有关。n越小，r越接近1。n 2时，|r| 1。因此仅凭相关系数说明x与有密切关系是不正确的。只有在样本量较大时，用相关系数r判定两变量之间的相关程度才可以信服，这样预测的误差才会较小。 2.14 解：（1）散点图为： （2）x与y大致在一条直线上，所以x与y大致呈线性关系。 （3）得到计算