第五讲大数定律和中心极限定理.ppt

第五章 大数定律和中心极限定理 大数定律和中心极限定理是概率论的重要基本理 论，它们揭示了随机现象的重要统计规律，在概率 论与数理统计的理论研究和实际应用中都具有重要 的意义。本章将介绍这方面的主要内容。 §5.1 大数定律 迄今为止,人们已发现很多大数定律(laws of large numbers) 所谓大数定律，简单地说，就是大量数目的随机变量所呈现 出的规律，这种规律一般用随机变量序列的某种收敛性来刻 画。本章仅介绍几个最基本的大数定律。下面，先介绍一个 重要的不等式。 一、切比雪夫（Chebyshev）不等式 对于任一随机变量X ,若EX与DX均存在,则对任意ε＞0, 恒有 . (5-1) 证明 我们仅给出X为连续型随机变量情形下的证明。设 为连续型随机变量X的密度函数，则有 ? （5-1）式的等价形式为 . (5-2) 切比雪夫不等式说明，DX越小，则 越小， 越大， 也就是说，随机变量X取值 基本上集中在EX附近，这进一步说明了方差的意义。 同时当EX和DX已知时，切比雪夫不等式给出了概率 的一个上界，该上界并不涉及随机变X 的具体概率分布，而只与其方差DX和ε有关，因此， 切比雪夫不等式在理论和实际中都有相当广泛的应 用。需要指出的是，虽然切比雪夫不等式应用广泛， 但在一个具体问题中，由它给出的概率上界通常比较 保守。 二、大数定律 在叙述大数定律之前，首先介绍两个基本概念。 定义5.1 设 为一个随机变量序列，记为 ，若对任何n≥2，随机变量 都相互独立 ，则称 是相互独立的随机变量序列。 定义5.2 设 为一随机变量序列，X为一随机变量 或常数，若对任意ε＞0，有 则称 依概率收敛于X,记为 或 ， . 下面是一个带普遍性结果的大数定律。 定理5.1 （切比雪夫大数定律）设 是相互独立的随机变 量序列，并且 和 均存在， ,同时，存在常数C，使 则对任意的ε＞0，有 （5-3） 即，