席第11讲 大数定律与中心极限定理.pptVIP

第五章 大数定律及中心极限定理 概率论与数理统计是研究随机现象统计规律性的学科. 随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来. 也就是说，要从随机现象中去寻求必然的法则，应该研究大量随机现象. 研究大量的随机现象，常常采用极限形式，由此导致对极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种: 与 大数定律 中心极限定理 定理1 (契比雪夫大数定律的特殊情况) 设 X1, X2, …是相互独立的随机变量序列，它们具有相同的数学期望和方差，即 E(Xi)=? ， D(Xi)=? 2 ，i=1,2, … 则对任意的? ?0，有 契比雪夫 证明见书p145 契比雪夫大数定律表明，当n充分大时， 与 ? 偏差很小的概率接近于1. 契比雪夫大数定律给出了 平均值稳定性的科学描述 当 n 很大时，X1, …, Xn 的算术平均值在概率 意义下接近于它们公共的均值? 设 Y1, Y2, … Yn , … 是随机变量序列，a 是一个常数。若对任意的? ?0，有 则称序列Y1, Y2, … Yn , … 依概率收敛于常数a . 记为 依概率收敛有什么性质呢? 依概率收敛于有以下性质 若 又 g(x, y) 设在点 (a, b) 连续，则 这样, 上述 定理1又可叙述为: 定理1 设 X1, X2, …是相互独立的随机变量序列，它们具有相同的数学期望和方差，即 E(Xi)=? ， D(Xi)=? 2 ，i=1,2, … 则序列 依概率收敛于 ? ，即 定理2（辛钦大数定律） 设X1, X2, …是独立同分布的随机变量序列，且E(Xi)= ? ，i=1, 2,…, 则对任给? 0, 辛钦 辛钦大数定律的证明从略 辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径. 定理3（伯努利大数定律） 设Sn是n重伯努利试验中事件A发生的 次数，p 是一次试验中事件A发生的概率，则对任给的ε 0， 或 伯努利大数定律的证明见书p146 伯努利大数定律表明，当重复试验次数n充分大时，事件A发生的频率Sn/n与事件A的概率p有较大偏差的概率很小. 伯努利大数定律提供了通过试验来确定事件概率的方法. 中心极限定理的客观背景 在客观实际中有许多随机变量，它们是由大量的相互独立的随机因素的综合影响所形成的. 而其中每一个别因素在总的影响中所起的作用都是微小的。 该结论得益于高斯对测量误差分布的研究. 这种随机变量往往近似地服从正态分布。 例如：考虑炮弹的射击误差。设靶心为坐标原点，弹着点的坐标为( X, Y )， X, Y 分别表示弹着点与靶心的横向和纵向误差。我们来看造成误差的原因是什么？ 炮身在每次射击后，因震动而造成的微小偏差 每发炮弹内炸药的数量和质量上的微小差异而引起的误差 每发炮弹外形上的细小差别引起空气阻力不同，由此出现的误差 而误差X（或Y）是这许多彼此间相互独立的随机小误差的总和，即 等等许多原因，每种原因引起一个微小的误差，有的为正，有的为负，都是随机的. 一般认为它服从正态分布。 以下我们从数学上来研究这种随机变量之和的分布. 为此, 考虑这种随机变量之和的 标准化变量. 即考虑 取值的概率. 可以证明，满足一定的条件时，上述和的分布函数的极限是标准正态分布. 定理1（列维一林德伯格(Levy－Lindberg)） 设X1, X2 , …是独立同分布的随机 变量序列，且E(Xi)= ，D(Xi)= 0 ， i=1,2,…，则 (证明略) 当 n 较大时 近似服从正态分布 N(0,1) 另外，利用该定理，当 n 较大时 近似服从正态分布 N(n? , n? 2) 特别地 近似服从正态分布 N(? , ? 2/n) 这表明，当 n 较大时，可以用正态分布 N(? , ? 2/n)近似计算n个相互独立、同分布随机变量的算术平均值 有关事件的概率 定理2 (棣莫佛－拉普拉斯定理） 定理表明，当 n 较大，0p1时，可以用正态分布 N(np,np(1-p))近似二项分布. 设随机变量 服从参数n, p(0p1)的二项分布，则对任意x，有 (证明见书p150) 例 1 见书p151例1 例 2 见书p151例2 例 3 见书p152例3 对独立但是不同分布