(同济大学出版社-李长青-著)-第五章大数定律和中心极限定理.ppt

概率论是研究随机现象统计规律性的学科. 随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来. 也就是说，要从随机现象中去寻求必然的法则，应该研究大量随机现象.研究大量的随机现象，在数学上常常采用极限形式，由此导致所谓极限定理的研究. 极限定理的内容很广泛，其中最重要的有两种: 大数定律及中心极限定理 第五章 * * 本章主要讨论两个问题： 1. 多个随机变量的算术平均值与其数学期望之间的关系。------大数定理 2. 怎样用正态分布对多个随机变量的和的分布作近似计算。------中心极限定理 * 概率论 它们分别刻画不同的统计规律性. 大数定律 中心极限定理 极限定理 统计规律性 随机现象的 第一节 大数定律 3 2 1 大数定律的客观背景 切比雪夫不等式 * 大数定律 3 小结 一、大数定律的客观背景 * 大量随机试验中 大量抛掷硬币 正面出现频率 字母使用频 率 生产过程中的 废品率 …… * 二、 Chebyshev inequality-切比雪夫不等式 或 ，有不等式 则对于任意正数 方差 具有数学期望 设随机变量 定理1 e s m , ) ( , ) ( 2 = = X D X E X * 切比雪夫不等式示意图 O x * 例1 设每次试验中，事件 A 发生的概率为 0.75, 试用 Chebyshev不等式估计, n 多大时, 才能在 n 次独立重 复试验中, 事件 A 出现的频率在0.74 ~ 0.76 之间的概率 大于 0.90? 设 X 表示 n 次独立重复试验中事件 A 发生的 X ~ B( n, 0.75) 要使 ，求 n 问题 解 次数 , 则 * 即 即 由 Chebyshev 不等式，? = 0.01n ,故 令 由此解得 即至少要进行18750次试验才能达到要求. 三、大数定律 *  则称随机变量序列X1, X2 ,…,Xn , ... 依概率收敛于a ， 记为: 若对任意正数?，有 定义1 设X1, X2 …,Xn ,...为一随机变量序列，a是常数， * 若 则称{Xn}服从(弱)大数定律。 定义2 设{Xn}为一随机变量序列,E(Xn)存在，记 i.e. * 若 则称{Xn}服从(强)大数定律。 定义3 设{Xn}为一随机变量序列,E(Xn)存在，记 i.e. 均结果的稳定性的一系列定理统称为大数定律. 大数定律：概率论中用来阐明大量随机现象平 * [定理2] （切比雪夫定理） 设独立随机变量序列X1,X2,…,Xn, ... 的数学期望 E(Xi)与方差D(Xi) (i =1, 2, ...)，并且方差一致有上界， 即存在某一常数K，使得 则对于任意的正数? 有 D(Xi) K, i =1, 2, ..., n, ... * 定理3 （Chebyshev大数定律的特殊情况） 设随机变量序列 X1, X2,…, Xn, ...相互独立，且具有相同的数学期望和方差:E(Xk)=?， 则对任意? 0，有 * 定理的意义 当 n 足够大时, 算术平均值几乎是一常数. 近似代替 可被 均值依概率收敛于数学期望. 数 学 期 望 算 术 均 值 * 这个结果1866年由俄国数学家切比雪夫证得。它是关于大数定律的一个相当普遍的结论，许多大数定律的古典结果是它的特例。此外，其证明方法（先构造一个不等式）也很有创造性，在此基础上发展起来的一系列不等式是研究各种极限定理的有力工具。 Pafnuty Lvovich Chebychef (1821-1894) * 定理4 （伯努利大数定律）设nA是n 次独立重复试验中A发生的次数. p 是事件A在每次试验中发生的概率, 则对任意? 0,有 证: 因而 E(Xk)=p，D(Xk)=p(1-p), (k=1,2,...),由定理1, 因为 有 即 即：事件A发生的频率依概率收敛于事件的概率 p . 这个定理以严格的数学形式表达了频率的稳定性. 此定理表明： * * 历史上，J. Bernoulli第一个研究了大数定律，在其1713年出版的《猜测术》第四卷“论概率原则的政治、伦理和经济学应用”中，他建立了本定理，这是全部大数定律中的第一个。 Jacob Bernoulli (1654-1705) * 定理2要求随机变量的方差存在，但辛钦证明了在独立同分布的场合大数定律成立并不要求方差存在. 设随机变量序列X1, X2, …, 相互独立，服从同一分布，且具有相同的数学期望 E(Xi)=μ, i