概统5.1节教程方案.ppt

切比雪夫不等式说明：D(X)越小，则 越小， 越大， 也就是说，随机变量X取值 基本上集中在E(X)附近，这进一步说明了方差的意义。 当E(X)和D(X)已知时，切比雪夫不等式给出了概率 的一个上界，该上界并不涉及随机变X 的具体概率分布，而只与其方差D(X)和ε有关，因此， 切比雪夫不等式在理论和实际中都有广泛的应用。 需要指出的是，虽然切比雪夫不等式应用广泛， 但在一个具体问题中，由它给出的概率上界通常保守。 * 第五章 大数定律与中心极限定理 主讲：杨延西 西安理工大学自动化与信息工程学院信息与控制工程系 2011.9 大数定律 大数定律的客观背景 大量随机试验中 大量抛掷硬币 正面出现频率 生产过程 中的废品率 文章中字 母使用频率 The law of large numbers 第五章 大数定律与中心极限定理 本章要解决的问题 为何能以某事件发生的频率 作为该事件的 概率的估计？ 为何能以样本均值作为总体 期望的估计？ 为何正态分布在概率论中占 有极其重要的地位？ 大样本统计推断的理论基础 是什么？ 答复 大数 定律 中心极 限定理 设非负 r.v. X 的期望 E( X )存在， 则对于任意实数 ? 0, 证 仅证连续型 r.v.的情形 重要不等式 §5.1 大数定律 设随机变量 X 的k阶绝对原点矩 E( |X |k) 存在，则对于任意实数 ? 0, 推论 1 设随机变量 X 的方差 D ( X )存在， 则对于任意实数 ? 0, 推论 2 ——切比雪夫( chebyshev)不等式 或 ——马尔可夫 ( Markov ) 不等式 切比雪夫( chebyshev)不等式 证明 例1 设有一大批种子，其中良种占1/6. 试 估计在任选的 6000 粒种子中, 良种所占比 例与1/6 比较上下小于1%的概率. 解 设 X 表示 6000 粒种子中的良种数 , X ~ B (6000,1/6 ) 例2 设每次试验中，事件 A 发生的概率为 0.75, 试用 Chebyshev 不等式估计, n 多大 时, 才能在 n 次独立重复试验中, 事件 A 出 现的频率在0.74 ~ 0.76 之间的概率大于 0.90? 解 设 X 表示 n 次独立重复试验中事件 A 发生的次数 , 则 X ~ B(n,0.75) 要使 ，求 n 即 即 由 Chebyshev 不等式，? = 0.01n ,故 令 解得 大数定律 定理一、伯努里（Bernoulli） 大数定律 设 nA 是 n 次独立重复试验中事件 A 发生 的次数, p 是每次试验中 A 发生的概率, 则 有 或 证 引入 r.v. 序列{Xk} 设 则 相互独立， 记 由 Chebyshev 不等式 故 在概率的统计定义中, 事件 A 发生的频率 “ 稳定于”事件 A 在一次试验中发生 的概率，是指： 频率 与 p 有较大偏差 是 小概率事件, 因而在 n 足够大时, 可以用频 率近似代替 p . 这种稳定称为依概率稳定. 伯努里(Bernoulli)大数定律的意义 定义 a 是一常数， (或 则称 r.v. 序列 依概率 收敛于常数 a , 记作 故 是一系列 r.v. 设 有 若 在 Bernoulli 定理的证明过程中，Y n 是相互独立的服从 (0 , 1) 分布的 r.v. 序列 {Xk} 的算术平均值, Y n 依概率p 收敛于 其数学期望 . 结果同样适用于服从其它分布的独立 r.v. 序列 定理二、 Chebyshev 大数定律 相互独立， 设 r.v. 序列 (指任意给定 n 1, 相互独立) 且具有相同的数学期望和方差 则 有 或 由切比雪夫不等式对于任意正数ε，有 令n→∞，注意到概率不能大于1，即得 定理的意义 当 n 足够大时, 算术平均值几乎是一常数. 具有相同数学期望和方差的独立 r.v.序列的算术平均值依概率收敛于数学期望. 算术 均值 数学 期望 近似代替 可被 切比雪夫大数定理的条件可以减弱为：不需要方差存在 定理3(辛钦定理) 设随机变量X1，X2，…,Xn，…相互独立，服从同一分布，具有数学期望E(Xk)=μ (k=1，2，…)，则对于任意正数ε，有 定理三 辛钦定理