一元线性回归模型及参数估计课件.pptVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
一元线性回归模型及其参数估计 一、一元线性回归模型的参数估计 二、最小二乘参数估计量的统计性质 三、最小二乘参数估计量的概率分布 一、一元线性回归模型的参数估计 一元线性回归模型的一般形式 一元线性回归模型的一般形式 是: i i X i Y m b b + + = 1 0 i=1 , 2 ,…, n 在满足 基本假设: = = = = 0 ) , ( 0 ) , ( 2 ) ( 0 ) ( i i x Cov j i Cov i Var i E m m m m s m m i=1,2, … ,n j=1,2, … ,n i ≠ j 的情况下,随机抽取 n 组样本观测值 i X i Y , ( i=1,2, … n ),就 可以估计模型的参数。 同方差 期望或均方值 协方差 模型参数估计的任务 模型参数估计的任务为两项: 一是求得反映变量之间数量关系的结构参数的估计量, 在一元线性回归模型即是参数 和 的估计量; b 0 b 1 二是求得随机误差项的分布参数,由于随机误差项 的均值已经被假定为0,所以所要求的分布参数只有 方差 。 2 m s 1、普通最小二乘法 (Ordinary Least Square, OLS) 给定一组样本观测值(Xi, Yi),i=1,2,…n,假如模型参数估计量已经求得,并且是最合理的参数估计量,那么样本回归函数应该能够最好地拟合样本数据,即样本回归线上的点与真实观测点的“总体误差”应该尽可能地小。 最小二乘法给出的判断标准是:二者之差的平方和最小,即 解得: ? ? ? í ì 1 0 - = ? ? X Y b b S - S S S - S = 2 ) ( 2 1 ? i X i X n i X i Y i X i Y n b 由于 0 ? b 、 1 ? b 的估计结果是从最小二乘原理得到的,故称为 最小二乘估计量 (least-squares estimators) 。 最小二乘参数估计量的离差形式 (deviation form) 注:在计量经济学中,往往以大写字母表示原始数据(观测值),而以小写字母表示对均值的离差(deviation)。 记 ? ? ? ? ? ? ? í ì - = - = = = ? ? Y i Y i y X i X i x i Y n Y i X n X 1 1 , 则参数估计量可以写成: ? ? ? í ì = - = ? ? 2 1 ? 1 ? 0 ? i x i y i x X Y b b b 随机误差项方差的估计量 记 i Y i Y i e ? - = 为第i个样本观测点的残差,即被解释变量的估计值与观测值之差,则随机误差项方差的估计量为: 1.用原始数据(观测值)Xi,Yi计算 简捷公式为 2.用离差形式的数据xi,yi计算 其中 简捷公式为 2、最大似然法( Maximum Likelihood, ML) 最大或然法,也称最大似然法,是不同于最小二乘法的另一种参数估计方法,是从最大或然原理出发发展起来的其它估计方法的基础。 基本原理: 对于最大或然法,当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得从模型总体中抽取该n组样本观测值的联合概率最大。 将该或然函数极大化,即可求得到模型参数的极大或然估计量。 由于或然函数的极大化与或然函数的对数的极大化是等价的,所以,取对数或然函数如下: 可见,在满足一系列基本假设的情况下,模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。 但是,随机误差项的方差的估计量是不同的。 3、样本回归线的数值性质(numerical properties) 样本回归线通过Y和X的样本均值; Y估计值的均值等于观测值的均值; 残差的均值为0。 二、最小二乘参数估计量的统计性质 高斯-马尔可夫定理 当模型参数估计完成后,需考虑参数估计值的精度,即是否能代表总体参数的真值,或者说需考察参数估计量的统计性质。 高斯—马尔可夫定理 (Gauss-Markov theorem) 在给定经典线性回归的假定下,最小二乘参数估计量是具有最小方差的线性无偏估计量。 1、线性性:最小二乘参数估计量是Y的线性函数。 2、无偏性:最小二乘参数估计量的均值等于总体回归参数真值。 3、有效性:在所有线性无偏估计量中,最小二乘参数估计量具有最小方差。 (2)证明最小方差性

文档评论(0)

laolingdao1a + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档