概率论与数理统计-第三版-第五章-大数定律和中心极限定理.pptx

第五章 大数定律和中心极限定理5.1 大数定律第五章 大数定律和中心极限定理5.1 大数定律 内容摘要：切比雪夫不等式揭示随机变量与其数学期望间偏差的概率与方差的关系, 由此给出三个常用的大数定律, 它们是概率论和统计推断的理论基础.5.1.1 提出问题 (1) 为什么可以利用某事件发生的频率作为该事件的概率的近似值？ (2) 为什么可以利用随机变量的算术平均或样本均值作为总体均值的估计？ 5.1.2 预备知识 随机事件的概率，随机变量的均值和方差. 5.1.3 建立理论1. 切比雪夫不等式 引理(切比雪夫不等式) 设随机变量和方差,有 具有数学期望, 为了证明大数定律, 下面我们首先学习切比雪夫不等式. 切比雪夫资料或 证 以连续型随机变量X为例. 对于离散型随机变量，证明类似. 讲评 切比雪夫不等式给出了在X的分布未知的情况下对事件“ ”发生的概率进行估计的一种方法. (1.1)式几何意义是: 只要随机变量具有数学期望和方差, X落入区间(E(X)-ε,E(X)+ε)的概率不小于1- . 例5.1.1 设随机变量X, Y的数学期望都是2, 方差分别是1和4, 而相关系数为0.5. 则根据切比雪夫不等式 ≥6}≤_____. 本题涉及切比雪夫不等式的应用. 需要计算出X-Y的数学期望和方差,才好利用切比雪夫不等式.分析而≤解 　利用切比雪夫不等式估计概率时,我们只需要知道随机变量的数学期望和方差即可,而不需要知道其具体分布. 本题的数学期望使得计算即简单又易出错，读者注意这一点. 讲评≥6} ≥6} 于是有令 , 则 例5.1.2证明:证明4.2节定理2的结论(5): D(X)=0的充分必要条件是存在常数C, 使X以概率1取常数C, 即 P{X=C}=1 ,并且C=E(X).证 先证充分性：已知P{X=C}=1, 去证明D(X)=0. 由P{X=C}=1知X服从单点分布. 得到 E(X)=C×1=C, E(X2)=C2×1= C2.所以， D(X)= E(X2)- [E(X)]2= C2-C2=0.即，充分性成立.再证必要性： 已知D(X)=0, 去证明P{X=C}=1.注意到事件 于是 又由于D(X)=0, 由切比雪夫不等式(1.1)式可知, 对每个n有即从而知因此取常数C= E(X)即可. 讲评 实际上，这是一个充要条件： D(X)=0的充分必要条件是存在常数C, 使X以概率1取常数C, 即P{X=C}=1,并且C=E(X). 参见4.2节定理2, 大家从方差揭示问题的实际意义容易接受这一点.2. 大数定律本节只介绍三个最著名的大数定律. 结合切比雪夫不等式, 先从概率论中最重要也最基本的切比雪夫定律开始:定理1（切比雪夫大数定律）定理表明n个随机变量的算术平均当n无限增大时几乎变成一个常数. 设 X1,X2, …,Xn是相互独立随机变量序列,它们有相同的期望与方差, 即则对任意的ε0, 有证 由于由切比雪夫不等式知并注意到概率不能大于1, 即得 Chebyschev 大数定律给出了算术平均稳定性的科学描述. 讲评 该定理表明: 对于任意的正数,当n充分大时, 不等式 成立的概率很大. 或者说, 当n很大时, 随机变量的算术平均接近于数学期望. 这种接近是在概率意义上的一种接近. 我们再介绍一个基本概念.定义 设 X1,X2,…,Xn是一随机变量对于? ? 0, 总有 序列,若存在常数a , 则称随机变量序列{Xn} 依概率收敛于 a . 记为在概率论中，为随机变量变量数列. 1. 在高等数学中，为确定性变量数列. 2. 数列收敛要求当 时,就有 成立，而绝不会有 依概率收敛要求n充分大时，事件 发生的概率接近于1；不排除发生事件 的可能性. 依概率收敛与高等数学中的数列收敛有什么区别？ 且函数 g(x,y)在点(a,b)连续,依概率收敛的序列还有以下性质: 设 则 连续函数保持依概率收敛性. 这样，上述切比雪夫大数定律又可以叙述为:定理表明n个随机变量的算术平均当n无限增大时几乎变成一个常数. 定理1′(切比雪夫大数定律) 设 X1,X2, …,Xn是相互独立随机变量序列,它们有相同的期望与方差, 则算术平均 依概率收敛于数学期望μ, 即 或伯努里 对于频率稳定性的严格的数学意义, 伯努利大数定律从理论上做了进一步阐明.定理3（伯努利大数定律） 设nA是n重伯努利试验中事件A发生的次数, p是事件A发生的概率, 则对任给的ε 0, 有所以由切比雪夫大数定律得 则 X 1, X 2 ,…,X n 独立, 都服从参数为p的 0-1分布. 证 设 并有 Bernoulli大数定律表明