第二章标准线性回归模型1.ppt

7、一元非线性回归 可以分为两类： 1）可以变换为线性函数的模型 各种对数模型、指数模型、幂函数等 * 7、一元非线性回归 2）不能变换为线性函数的模型 通过非线性拟合模块进行估计 * 8、稳健估计 当希望拟合结果不易受异常数据影响时，可以采用稳健估计的方法 估计步骤如下： 首先将X值排序，在此基础上将数据点划分为尽可能相等的三组； 求每组内X的中位数，单独求Y的中位数，得到三组坐标 利用这些坐标，估计参数 计算残差，进行参数迭代调正 * 8、稳健估计 参数估计方法 * 8、稳健估计 计算每个数据点的残差，用残差代替Y，重复拟合过程，理想状态是：斜率、截距接近于0，即残差中不再有直线趋势可以提取出来。 如果不为0，则把新得到的斜率、截距加到原来的斜率、截距上 进行迭代，直到斜率调整值不超过原值的1%。 * 4、估计量的性质 利用回归分析进行均值预测的误差： * 4、估计量的性质 对于个体数据而言，误差为： * 不确定性知识 + 所含不确定性量度的知识 = 可用的知识 C.R. Rao * 5、假设检验 1）F检验 总平方和（SST）=回归平方和（SSR）+残差平方和（SSE） * 5、假设检验 定理：如果随机项满足Gauss-Markov条件，则原假设成立时有： * 5、假设检验 2）对回归系数进行检验 检验目标： 检验统计量为： * 6、回归分析的步骤 1）绘制散点图 2）根据散点图选择合适函数形式并进行估计 3）评价 4）如果理想，进行经济解释 5）如果不理想，分析原因并进行改进 6）考虑预测问题 * 6、回归分析的步骤 1）绘制散点图 绘制散点图是进行回归分析必不可少的步骤 例：Anscombe’s quartet 2）根据散点图选择合适函数形式并进行估计 如果根据理论分析，函数应通过原点，则 应设定截距为0，否则采用一般形式 * 6、回归分析的步骤 3）评价 a 判定系数R2或修正R2 b 假设检验 c 置信区间 d 残差图 e 其他 …… …… * 3）评价 a 判定系数R2或修正R2 * 3）评价 a 判定系数R2或修正R2 * 3）评价 修正R2的主要优点在于： 它为在一个模型中随意增加自变量施加了惩罚，当自由度过小时，该指标会非常小，而R2则往往很大。 当增加新变量时，当且仅当新变量的t检验的绝对值大于1，修正R2才会增加 * 3）评价 对于拟合优度，没有一个标准来说明，拟合优度小到什么程度，就是不可接受的，对于时序数据而言， R2大于0.9也很正常，对于截面数据而言， R2等于0.5也不算小 当在自变量数目不同的模型间进行选择时，修正R2更适合作为选择标准 * 3）评价 b 假设检验 如果F值大于临界值，或者p值小于规定的显著性水平，则说明：自变量前系数显著不等于0，即如果自变量前系数为0，则只有很小概率（5%）出现样本所发生的情况 如果t值大于临界值，或者p值小于规定的显著性水平，则说明：该系数显著不等于0，即如果系数为0，则只有很小概率（5%）出现样本所发生的情况 * 3）评价 c 置信区间 具体含义是：所给出的区间有95%（99%）的可能包括了总体真值 区间越大，估计结果越没有意义。 * 3）评价 d 残差（ ）图 * 3）评价 残差图因纵坐标、横坐标不同而有多种形式，常用的为： * 3）评价 帽子矩阵（hat matrix）——寻找杠杆点 * 3）评价 帽子矩阵对角线上的点称为杠杆率，在高杠杆率的位置如果出现异常的Y值，将对拟合产生严重的影响。 * 3）评价 PRESS——预测误差平方和，用以判断交叉有效性 Cook’s D ——反映删除一个观测值对参数估计的影响 * 4）经济解释 基本含义： X增加1个单位，Y将平均增加 个单位 * 4）经济解释 取对数以后的解释 X增加1%，Y将增加 %。 * 双对数模型应用非常广泛，其优点是： 参数具有弹性含义（可用来估计常弹性） 经过对数变换的变量，一般更加符合假设条件 可以缩小取值范围，减少异常值的影响 4）经济解释 * 4）经济解释 X增加1%，Y将增加 。 * 4）经济解释 X增加1个单位，Y将增加 * 4）经济解释 在解释时，要考虑计量单位 * 4）经济解释 与相关系数的关系 两者同号 数据标准化后，回归系数就等于相关系数 * 4）经济解释 回归模型只具有相关意义，不具有因果意义 * 5）模型的改进 利用评价结果，结合经济分析对模型进行改进，常见导致问题的