北邮概率统计课件大数定律.ppt

北邮概率统计课件 * 概率统计 第五章知识结构图 概率论的理论结果 大数定律 中心极限定理 切比雪夫大数定理 贝努利大数 定理 辛钦 (大数)定理 独立同分布的中心极限定理 棣莫弗--拉普拉斯中心极限定理 李雅普诺夫中心极限定理 第五章 大数定律及中心极限定理 大数定律和中心极限定理是概率论中的比较深入与重要的理论结果。本章主要讨论如下两个问题： 在一定条件下,一列随机变量的算术平均值（按某种意义）收敛于所希望的平均值的定理称为“大数定律”。 大数定律为概率论所存在的基础 —“概率是频率的稳定值”提供了理论依据，它以严格的数学形式表达了随机现象最根本的性质之一：平均结果的稳定性。它是随机现象统计规律的具体表现，也成为数理统计的理论基础。 在一定条件下，大量的相互独立的随机变量之和 的概率分布近似于正态分布的定理称为“中心极限定理”。 中心极限定理它以严格的数学形式证明了随机现象另一个最根本的性质之一：如果一个量是由大量相互独立的随机因素的影响所造成，而每一个别因素在总影响中所起的作用不大， 则这种量一般都服从或近似服从正态分布。它是随机现象统计规律的具体表现，也成为数理统计的理论基础。而正态分布又是应用最广的分布。 大量的随机现象中平均结果的稳定性： 大量抛掷硬币 正面出现频率 字母使用频率 生产过程中的 废品率 …… 第一节 大数定律 大数定律的客观背景 定理1（切比雪夫大数定律） 设 X1 , X2, … 是相互独立的随机变量序列，它们都有有限的方差，并且方差有共同的上界，即 D( Xi ) ≤ K， i=1, 2, …，则对任意的ε 0， 切比雪夫 一. 切比雪夫大数定律 注： 切比雪夫大数定律表明：独立随机变量序列 { Xn }，如果方差有共同的上界，则： 概率接近于1. 是很小的，其概率接近于1。即当 n 充分大时， 期望的概率接近于1。 差不多不再是随机的了，取值接近于其数学 算术平均值 与其数学期望 的偏差 切比雪夫大数定律给出了平均 定理2（切比雪夫大数定律的特殊情况） 设 X1 , X2, … 是相互独立的随机变量序列，它们具有相同的数学期望与方差： 作前 n 个随机变量的算术平均值： 值稳定性的科学描述 亦称为独立同分布的大数定律 则对任意的 有： 证明: 由切比雪夫不等式可得: 注: 定理2 是定理1中当数学期望和方差给定具体值时的特殊情况。它表明当 n 很大时，随机变量 的算术平均值在概率意义下接近于数学期望 其作用：在数理统计中如不知道 ，则可用 其算术平均值来近似代替，则定理2就提供了 理论依据。 令： 并注意到概率 所以得： ▲ ▲ 称序列 依概率收敛于常数 依概率收敛的序列具有如下性质: [证明]：见教材P 146页下方的小字体 记为： 定理2的结论可叙述为：序列 依概率收敛于常数 由此， ▲ 设 又设函数 g ( x, y ) 在点 ( a, b ) 处连续， 则有： 二. 贝努利大数定理 定理3. (贝努利定理) 设随机变量 相互独立，且同时服从以 p 为参数 的(0 – 1)分布。则对任意正数 有： 或 贝努利