第12讲极限定理.pptVIP

* * * * * * * * * * * * * * 概率论与数理统计 概率论与数理统计是研究随机现象统计规律性的学科。 所以，要从随机现象中去寻求统计规律,就应该对随机现象进行大量的观测。 第五章 极限定理 随机现象的统计规律性只有在相同条件下进行大量的重复试验才能呈现出来。 研究随机现象的大量观测， 常采用极限形式，由此导致了极限定理的研究。 极限定理的内容很广泛, 最重要的有两种: “大数定律”和“中心极限定理”。 对随机现象进行大量重复观测，各种结果的出现频率具有稳定性。 §5.1 大数定律 大量地掷硬币 正面出现频率 字母使用频率 生产过程 中废品率 5.1.1 切比雪夫不等式 定理1: 设随机变量X有期望μ和方差σ2，则对任给的ε 0, 有 证明：只对X 是连续型情况加以证明。 设X 的概率密度函数为 f(x)，则有 放大被积函数 放大积分域 切比雪夫不等式 也可以写成： 切比雪夫不等式说明了: 5.1.2 大数定律 首先引入随机变量序列相互独立的概念。 定义1：设 X1, X2, …是一随机变量序列。如果对任意的 n1， X1, X2, …, Xn相互独立,则称X1, X2, …相互独立。 常见的大数定律 定理2 (切比雪夫大数定律): 设随机变量序列 X1, X2, … 相互独立，且有相同的期望和方差: E(Xi)=μ, Var(Xi) =σ2，i=1, 2, … 。 则对任意的ε0，有 证明： 令 n→∞，并注意到概率小于等于1，得(1)式。 定理证毕。 该大数定律表明：无论正数ε 怎样小, 只要 n充分大，事件 发生 的概率均可任意地接近于 1。 即当 n充分大时， 差不多不再是随机变量， 取值接近于其数学期望μ 的概率接近于 1。 设 nA是 n 重伯努利试验中事件A发生的频数， p是 A 发生的概率，对任给的ε 0，有 定理3 (伯努利大数定律): 伯努利大数定律表明：当重复试验次数n充分大时，事件A发生的频率nA / n与事件A发生的概率 p 有一定偏差的概率很小。 中心极限定理是棣莫弗 (De Moivre) 在18世纪首先提出的，到现在内容已十分丰富。在这里，我们只介绍其中两个最基本的结论。 §5.2 中心极限定理 当 n 无限增大时，独立同分布随机变量之 和的极限分布是正态分布； 2. 当 n 很大时，二项分布可用正态分布近似。 由于无穷个随机变量之和可能趋于∞，故我们不研究 n 个随机变量之和本身，而只考虑其标准化的随机变量 的极限分布。 的极限分布。 可以证明：当{ Xn } 满足一定条件时, Zn的极限分布是标准正态分布。 考虑 概率论中，常把随机变量之和标准化后的分布收敛于正态分布的定理称为中心极限定理。 中心极限定理的几种简单情形。 下面给出独立同分布随机变量序列和的中心极限定理，称作 列维——林德伯格(Levy —— Lindberg) 定理。 定理1 (列维——林德伯格定理)： 设 X1, X2, … 是独立同分布随机变量序列，且 E(Xi) =μ, Var(Xi)=σ2，对任给 x ∈(-∞, ∞), 均有 其中 Φ(x) 是标准正态分布 N(0, 1) 的分布函数。 还有另一记法: 定理2 (棣莫弗——拉普拉斯定理): 定理 2 表明: 当 n 很大时，二项分布 Yn 标准化后的分布近似于标准正态分布 N(0, 1) 。 设随机变量 Yn 服从参数为 (n, p) 的二项分布(0p1) ，则对任意 x∈(-∞,∞)，均有 小结 1.两个大数定律：切比雪夫大数定律，伯努利大数定律。 2.两个中心极限定理: 列维—林德伯格定理和棣莫弗 — 拉普拉斯定理。 列维—林德伯格定理的内容是：独立同分布随机变量之和标准化之后的极限分布是标准正态分布； 棣莫弗 — 拉普拉斯定理的内容是：当 n 很大时，二项分布可用正态分布近似。 * * *