§大数定律及中心极限定理.ppt

§3.4 大数定律及中心极限定理 实验者 掷硬币次数 出现正面次数 频率 蒲 丰 4040 2048 0.5069 皮尔逊 12000 6019 0.5016 皮尔逊 24000 12012 0.5005 1、实际背景 随机事件在一次试验中，可能发生，也可能不发生，具有很大的偶然性，但是大量的重复试验，则呈现某种规律性。如掷一枚硬币，观察出现正面，还是反面。掷一次谁也无法预言是出现正面，还是反面。但是大量重复抛掷，则出现正与反面的可能性均是1/2，这就是事件频率的稳定性。 一、大数定律 任何随机试验，事件发生的频率随着试验次数的增多逐渐稳定于某一常数——概率，为什么有这一规律？这是由于大量试验过程中随机因素相互抵消相互补偿的结果。用极限方法来研究大量独立随机试验的规律性的一系列定理，称为大数定律。 2、两个重要慨念 若随机变量X1, X2, …, Xn…是相互独立，若对所 有Xi (i=1，2，…)有相同的分布，则称X1, X2, …, X n…是独立同分布的随机变量序列. (1). 独立同分布定义 例1. 不改变条件,连续抛掷硬币, 令随机变量 (2). 依概率收敛定义 依概率收敛是指当n无限增大时，事件（|Xn-a| ε）发生的概率无限接近于1。 或Xn落在（a - ε，a + ε ）的概率无限接近于1。 二、两个大数定理 定理1 ( 切比雪夫大数定律 ) 设X1,X2,…,Xn…是一 个随机变量序列, 且E(Xk)=? ,D(Xk)=?2 (k=1,2,…） 则对任意正数 ? , 有 （1）以上定律可简写为 （2） 是前n个随机变量的算术平均值，定理1说明 算术平均值以概率几乎是1接近于期望值。 这为寻求随机变量的期望值提供了切实可行办法： 也就是当观察次数无限增多时，观察 结果的算术平均值几乎变成一个常数，不是随机的了。 定理2（贝努利大数定理）设?n是n次独立试验 中事件A发生的次数，则对任意的正数?有 （1）定理2说明当重复试验的次数无限增大时，事件A发生的频率依概率收敛于A的概率，即 （2）在实际应用中，当试验次数很大时，便可以用事件发 生的频率代替事件发生的概率，即 正态分布在概率统计中占有重要的地位与作用，许多随机 变量会遵循正态分布其理论依据是什么？ 高斯在研究误差理论时已经用到正态分布，以炮弹射击误 差为例， X Y 0 二、中心极限定理 1、实际背景 x y M (X,Y) 设靶心是坐标原点，多次射击的结 果，炮弹弹着点为(X,Y)，它是二维随机变 量，都认为它服从正态分布，它的每一 个 分量X和Y服从正态分布，这到底为什么？ 要搞清误差是怎样的一个随机变量？首先 要弄清误差X，Y的原因是什么？ 以横坐标总误差X为例，即使炮身在瞄准后不再改变， X = X1 + X2 + X3 + X4 + ······ 那么每次射击后，它也会因震动而产生微小的偏差X1； 每发炮弹外型细小差别而引起空气阻力不同，而出现误差X2； 每发炮弹内的炸药的数量和质量的微小差别而引起的误差X3； 炮弹前进中遇到空气流的的微小扰动而造成弹着点的误差X4； 等许多原因。 每种原因引起的误差，有时为正，有时为负，都是随机的， 而弹着点的总误差X就是这许多随机误差的总和，即 而且这些小误差可以看成彼此相互是独立的，因此要讨论 X的分布，就要讨论独立随机变量和的分布问题，中心极限 定理就是研究在什么条件下独立随机变量序列和的极限分布 服从正态分布的一系列定理的总称。由于正态分布在概率论 理论和应用中占有中心地位，因此这些定理称为中心极限定 理。 一般来说，如果某个随机变量是由大量相互独立的随机因 素综合影响形成的，而其中每一项因素对总和的影响是“均 匀微小的”，那么可以断定这个随机变量服从或近似服从正 态分布中心极限定理是用极严格的数学推导来论证这一事 实。下面介绍中心极限定理的基本形式。 定理3（同分布的中心极限定理）设随机变量X1, X2, …,X n…独立同分布,且E(Xk)=? ,D(Xk)=?2≠0， k=1,2,…则对任意实数 x有 二、两个中心极限定理 Yn即前n个随机变量和 标准化，当n→∞时，以标准 正态分布为极限。所以当 n 充分大时，可以以标准正态分布作为它的近似分布。这就是正态分布在概率论中占有重要地 位的一个基本原因。 （2）在很多问题中，所考虑的随机变量都可以看成很多独立 的随机变量之和，(这些随机变量并不一定同分