概率论的基础--chapter 5_1.PPTVIP

Probability Theory 5.1 大数定律 * * 大数定律和中心极限定理 第 五 章 杨宇明 youngym@126.com 应 用 背 景 在实际应用中，常遇到如下现象或问题 事件发生的频率稳定于事件发生的概率，“频率 的稳定性”到底是什么意思？实际中有什么用? 1 大量测量结果的平均值稳定在一个常数； 为什么现实中大量随机变量近似服从正态分布? 在什么情况下可以认为随机变量近似服从正态 分布？ 等等，诸如此类的问题。 一、随机变量序列的收敛性 定义5.1.1（依概率收敛） 设{Xn}是一个随机变量序列，X 是一个随机变量或常数，若对于任意的e ＞ 0，有 则称随机变量序列{Xn}依概率收敛于X，记为 注：随机变量序列依概率收敛不同于微积分中的数列收敛。 依概率收敛与数列收敛的不同。 1）数列{an}收敛于a是指：当n充分大时， e ? 0 | an- a | ? 是必然的。 2）随机变量序列{Xn}依概率收敛于X 是指 e ? 0 当n充分大时，事件{| Xn- X | ? }发生的概率很大 （并不是说事件{ | Xn- X | ?}一定发生）。 定义5.1.2（依分布收敛） 设随机变量X，X1，X2，…的分布函数分别为F( x ),F1( x ), F2( x ), …,若 在F( x )的每一个连续点上都成立，则称随机变量序列{Xk}, k = 1,2,…依分布收敛于X 。并记为： 依分布收敛的意思是指n充分大时： 二. 概率不等式 1 切比雪夫(Chebyshev)不等式 设随机变量 X 的数学期望 E(X ) 和方差D(X )都存在, 则对于任意的 e 0, 有 或者 例：X~N(m,s2)，令e=3s，则有： 切比雪夫不等式的应用 1）估计随机变量分散程度的概率界限，或者说估计 随机变量落在某个区间内的概率,但是其估计是很粗 略的。 2）在贝努利试验中，考虑频率与概率精度估计不等式 3）证明大数定律。 已知 n、p、? 中任两个 ,估计另外一个量的问题； 定义： 大数定律 设{Xn} 是一个随机变量序列，其数学期望都存在，若对于任意的e ＞ 0，有 则称随机变量序列{Xn}服从大数定律。 注： 1) {Xk}服从大数定律即是指 2) 服从大数定律即是{Xk} 的前n 项算术平均值将在概率意义下接近其数学期望 1 切比雪夫大数定律 三。常见大数定律 设{Xk} 是相互独立的随机变量序列，其数学期望和方差都存在，且存在一个常数C，使得 D( Xk ) C, k = 1,2,… 则随机变量序列{Xk} 服从大数定律。 简要说明： 由切比雪夫不等式 2 独立同分布大数定律 设{Xk} 是相互独立且同分布的随机变量序列，且 E( Xk ) = m , D( Xk ) = s2, k = 1,2,… 则 {Xk} 服从大数定律，即对任意的e 0,有 注：1 此定理为切比雪夫大数定律的一个推论。 2 定理成立时，n个随机变量的算术平均，当n无限增加时将几乎变成一个常数。 2 ‘辛钦大数定律 设{Xk} 是相互独立且同分布的随机变量序列，且 E( Xk ) = m 则 {Xk} 服从大数定律，即对任意的e 0,有 注： 此定律比独立同分布大数定律适用范围更广。