大数定律和中心极限定理.docx

第五章 大数定律和中心极限定理 一、内容提要 （一）切贝谢夫不等式 切贝谢夫不等式的内容 设随机变量X 具有有限的数学期望E（X）和方差D（X），则对任何正数ε，下列不等式成立。 ,P?X ? E?X ? ? ??? D?X ? , ? 2 P?X ? E?X ? ? ??? 1 ? D?X ? . ? 2 切贝谢夫不等式的意义 只要知道随机变量 X 的数学期望和方差（不须知道分布律），利用切贝谢夫不等式，就能够对事件?X ? E?X ? ? ??的概率做出估计，这是它的最大优点，今后在理论推导及实际应用中都常 用到切贝谢夫不等式。 不足之处为要计算 P?X ? E?X ? ? ??的值时，切贝谢夫不等式就无能为力，只有知道分布密度或分布函数才能解决。另外，利用本不等式估值时精确性也不够。 当X 的方差D(X)越小时， P?X ? E?X ? ? ??的值也越小，表明 X 与 E(X)有较大“偏差” 的可能性也较小，显示出D(X)确是刻画X 与 E(X)偏差程度的一个量。 （二）依概率收敛 如果对于任何ε＞0，事件 a ? ??的概率当 n→∞时，趋于 1，即 ?Xn ?X lim P?X n?? n ? a ? ? ?? 1， 则称随机变量序列X ,X ,…,X ,…当n→∞时依概率收敛于α。 1 2 n （三）大数定律 大数定律的内容 大数定律的一般提法 若 X ,X ,…,X ,…是随机变量序列，如果存在一个常数序列α ,…,α ,…，对任意ε＞0，恒有 1 2 n 1 n 1n? lim P? n?? 1 n ?n X i i?1 ? ? a ? ? ? ? 1 ， n ? 则称序列{X }服从大数定律（或大数法则）。 n 切贝谢夫大数定律 设随机变量X ,X ,…,X ,…相互独立，分别有数学期望 E(X )和方差D(X )，且它们的方差有公共 1 2 n i i 上界 C，即  D?X i  ?? C, ?i ? 1,2,? , n,? ?. ?则对于任意的ε＞0，恒有 ?  1n 1 n lim P?  ?n X  ? 1 ?n  E?X  ? ? ? ? ? 1。 n?? ? i i?1 n i i?1 ?辛钦大数定律 ? 设 X ,X ,…,X ,…是一列独立同分布的随机变量，且数学期望存在： 1 2 n E?X i ?? a, i ? 1,2,? 则对于任意的ε＞0，有  1n? lim P? n?? 1 n  ?n X i i?1  ? ? a ? ? ? ? 1。 ? 贝努里大数定律 设 n 是 n 次独立试验中事件A 发生的次数，p 是事件 A 在每次试验中发生的概率，则对于任意 A 的ε＞0，恒有  nAn?lim n A n ? n?? ?  ? ? p ? ? ? ? 1 。 ? 大数定律的意义 大数定律从理论上证明了“频率的稳定性”，对概率论的建立起了奠基作用。 切贝谢夫大数定律说明经验平均值接近于理论平均值；辛钦大数定律说明随机变量的平 均值接近于数学期望，这是测量中取平均值的理论依据；贝努里大数定律说明了频率具有稳定性， 即频率收敛于概率，这是用频率f (A)来估计概率p 的理论依据。 n 把独立随机变量和的平均作为大数定律的研究对象在理论上的应用上都是重要的。 （四）中心极限定理 中心极限定理的内容 独立同分布中心极限定理 设随机变量 X ,X ,…,X ,…相互独立，服从同一分布，且具有有限的数学期望和方差： E(X )= 1 2 n K μ,D(X )=σ2≠0,(K=1,2,…,n,…)，则随机变量 K K?n X K K ?1 K ?1 n? n n? 的分布函数F (x)，对于任意的x，满足 n  ???n ?  X ? n? ? lim F ?x? ? ?K? lim P? K ?1 ? ? x ? K n?? n ? n ? ?? ?? 德莫佛一拉普拉斯中心极限定理 设随机变量? ?n ? 1,2,? ?具有参数为n,p(0 ? p ? 1) 的二项分布，则对于任意区间(a, b]，恒 n 有 ?? ? ? np ??  e1 ? t 2 e 2? 2? np 1 ? pn??lim P?a ? ? b np 1 ? p n ? ? 2 dt 。 n?? ?? ?? a 中心极限定理的意义 中心极限定理从理论上证明了“许多类型”的随机变量，它们的极限分布服从正态分布， 这既肯定了正态分布在概率论中处于主导地位，又给概率计算提供了强有力有手段。 中心极限定理是把独立随机变量的和作为研究对象。 应用中心极限定理前的准备步骤 把问题归结为独立随机变量的和 X ? ?n X 。 K K ?1 把和“中心化”： ?