精品第二章标准线性回归模型1.ppt

第二章 标准线性回归模型 回归（regression）的含义 英国统计学家Galton和其学生Pearson研究父母身高与其子女身高的遗传问题，观察了1078对父母，以每对父母身高为x，取他们一个成年儿子的身高为y，将结果绘成散点图，发现趋势近乎一条直线（父母平均身高68吋，成年儿子平均身高69吋）： y=33.73+0.516x 可以发现： x=72吋，y=70.89吋； x=64吋，y=66.75吋； 线性的含义 一、一元线性回归模型 二、多元线性回归模型 一、一元线性回归模型 回归模型的思想 回归模型的假定 参数估计方法 估计量的性质 假设检验 回归分析的步骤 一、一元线性回归模型 一元非线性回归 稳健回归 1、回归模型的思想 经济变量之间的关系有两类： 确定性关系和非确定性关系，所谓确定性关系是指一个变量的变化能完全决定另一个变量的变化： 价格一定时，销量与销售额 利息率一定，存入本金与到期本息 1、回归模型的思想 1、回归模型的思想 更多出现的情况是：存在密切联系但并非完全决定 居民收入与消费密切相关，但不能完全决定消费 广告费支出与销售额密切相关，但不能完全决定销售额 1、回归模型的思想 不完全决定的原因在于： 还有其他影响因素 1、回归模型的思想 将数据点的分布理解为如下机制所产生的结果： 1、回归模型的思想 随机干扰项的意义 将各种次要变量作了综合处理，保证了分析的可操作性 1、回归模型的思想 假定随机干扰项的均值为0，则有： 回归模型的目标就是用样本数据估计出参数的值，据此就可以根据X的变化估计Y的平均变化 1、回归模型的思想 2、一元线性回归模型的假定 1）X是非随机的设计矩阵 2）Gauss-Markov条件 2、一元线性回归模型的假定 同方差 2、一元线性回归模型的假定 异方差 2、一元线性回归模型的假定 无序列相关 2、一元线性回归模型的假定 2、一元线性回归模型的假定 无序列相关 其他影响因素不能存在相关性 一般时序数据很难满足无序列相关条件，而横截面数据容易出现异方差 2、一元线性回归模型的假定 3）随机项服从正态分布 3、参数估计方法 通常采用最小二乘法（Least Square Estimation）来得到参数的估计量 其目标函数是： 3、参数估计方法 3、参数估计方法 满足目标函数的参数值记为 ： 回归模型 4、估计量的性质 4、估计量的性质 无偏 一致 方差最小 4、估计量的性质 1）无偏性 无偏性意味着这两个估计量没有高估或低估的系统倾向 4、估计量的性质 2）方差 含义：估计量方差与随机项方差、自变量取值范围、样本量等有关 4、估计量的性质 4、估计量的性质 利用回归分析进行均值预测的误差： 4、估计量的性质 对于个体数据而言，误差为： 不确定性知识 + 所含不确定性量度的知识 = 可用的知识 C.R. Rao 5、假设检验 1）F检验 5、假设检验 定理：如果随机项满足Gauss-Markov条件，则原假设成立时有： 5、假设检验 2）对回归系数进行检验 检验目标： 检验统计量为： 6、回归分析的步骤 1）绘制散点图 2）根据散点图选择合适函数形式并进行估计 3）评价 4）如果理想，进行经济解释 5）如果不理想，分析原因并进行改进 6）考虑预测问题 6、回归分析的步骤 1）绘制散点图 绘制散点图是进行回归分析必不可少的步骤 例：Anscombe’s quartet 2）根据散点图选择合适函数形式并进行估计 如果根据理论分析，函数应通过原点，则 应设定截距为0，否则采用一般形式 6、回归分析的步骤 3）评价 a 判定系数R2或修正R2 b 假设检验 c 置信区间 d 残差图 e 其他 …… …… 3）评价 a 判定系数R2或修正R2 3）评价 a 判定系数R2或修正R2 3）评价 修正R2的主要优点在于： 它为在一个模型中随意增加自变量施加了惩罚，当自由度过小时，该指标会非常小，而R2则往往很大。 当增加新变量时，当且仅当新变量的t检验的绝对值大于1，修正R2才会增加 3）评价 对于拟合优度，没有一个标准来说明，拟合优度小到什么程度，就是不可接受的，对于时序数据而言， R2大于0.9也很正常，对于截面数据而言， R2等于0.5也不算小 当在自变量数目不同的模型间进行选择时，修正R2更适合作为选择标准 3）评价 b 假设检验 如