随机变量、统计推断和随机过程.pptVIP

六、随机变量的收敛性和极限理论 （一）随机变量的收敛性 大量随机变量之和的概率分布是通过随机变量序列极限分布表现的，极限定理的基础是随机变量序列的收敛性。 随机变量序列的收敛性与一般变量不同，是概率、概率分布或者分布特征的收敛性，有依分布收敛和依概率收敛等。 不同的收敛性定义将导致不同的极限定理。 第三十页，共六十一页。 分布函数弱收敛： 对于分布函数序列{ }（为了简单起见，常常直接写成 ，如果存在函数 使得 在 的每个连续点上都成立，则称“ 弱收敛于 ”。 第三十一页，共六十一页。 依分布收敛： 设随机变量序列{ }的分布函数序列为{ }，随机变量 的分布函数为 ，如果 弱收敛于 ，则称“ 依分布收敛于 ”。 第三十二页，共六十一页。 依概率收敛： 对于随机变量序列{ }和随机变量 ，如果 或 对任意的 成立，则称“ 依概率收敛于 ”。有时候也称 的“概率极限”是 ，并可记为 第三十三页，共六十一页。 （二）大数法则 伯奴利大数定理 独立同分布场合的大数定律 第三十四页，共六十一页。 （三）中心极限定理 独立同分布场合的中心极限定理 非独立同分布场合的中心极限定理 第三十五页，共六十一页。 第二节 参数估计和假设检验 随机变量取值往往无穷多，不可能通过全面调查了解总体分布，只能根据从总体抽取的部分样本推断总体情况。这称为“统计推断”，包括参数估计和假设检验等。 计量经济回归分析的观测数据相当于随机变量总体抽取的样本，回归分析就是根据样本推断总体情况，就是一种统计推断。 因为计量经济分析的样本不是标准抽样方法抽取，而是通过观测得到，因此计量经济分析的统计推断有一定特殊性。 第三十六页，共六十一页。 一、随机抽样和抽样分布 （一）随机抽样和样本统计量 样本即随机变量分布总体的部分样本点构成的子集。 样本是抽样得来的，抽样有不同的方法。计量经济分析的数据一般都是简单随机抽样的样本。 样本统计量： 样本均值 样本方差 第三十七页，共六十一页。 （二）抽样分布 样本统计量的概率分布称为“抽样分布”。 抽样分布可以考虑正态总体的小样本精确分布，对其他总体则主要考虑大样本极限分布。 正态总体小样本分布：样本均值、方差的分布，样本线性函数的分布 一般总体的大样本抽样分布：中心极限定理与渐近正态分布 第三十八页，共六十一页。 二、参数估计 （一）最大似然估计 （二）矩估计 （三）最小二乘估计 （四）估计量的性质 （五）参数估计方法的归纳和比较 第三十九页，共六十一页。 （一）最大似然估计Maximum likelihood estimates，ML 基本原理：随机变量的分布参数水平在数据生成过程中起着作用，不同参数水平生成特定数据集的可能性不同，可以根据生成样本的可能性大小估计参数水平。——根据事物出现的概率（几率、可能性）的大小推断参数水平。 第四十页，共六十一页。 最大似然估计的核心是似然函数（Likelihood function），即样本同时出现的联合概率密度 令似然函数达到最大的参数估计值称为参数的“最大似然估计” 对数似然函数 第四十一页，共六十一页。 例2-11：正态分布参数的估计 已知一随机变量服从未知参数的正态分布 ，并且已经观测到一组样本 ，要求估计分布参数。 第四十二页，共六十一页。 例2-12：泊松分布参数的估计 观测到一个服从未知参数的泊松分布的随机变量的10个数据的样本，这些数据分别为5、0、1、2、3、2、3、4、1、1，要求估计出该泊松分布的未知分布参数 。 根据泊松分布的概率公式，该随机变量的数值为 的概率为 10个数据出现的联合分布概率为 第四十三页，共六十一页。 随机变量、统计推断和随机过程 第一页，共六十一页。 提要 介绍计量经济学的概率统计基础知识 包括随机变量、统计推断和随机过程知识 假设有基本的概率论知识 本教材的计量经济模型和分析方法的需要 对于学习和理解计量经济分析方法有启发 第二页，共六十一页。 第一节 随机变量和概率分布 一、随机变量及其概率分布 二、多元分布和条件分布 三、概率分布的数字特征 四、常见分布 五、随机变量的收敛性和极限理论 第三页，共六十一页。 一、随机变量及其概率分布 （一）随机变量