概率收敛与强大数定律.docVIP

§3 概率1收敛与强大数定律 ? 一、以概率1收敛 二、强大数定律 本章补充与注记 ? 本章习题 ? ? 一、以概率1收敛 大家知道, 随机变量是定义在概率空间上取值为实数的函数. 因此我们可以像数学分析讨论函数序列逐点收敛性那样去讨论随机变量序列在每个样本点处的值的收敛性. 然而, 由于随机变量取值的随机性, 我们常常不可能期望随机变量序列在所有点处都存在极限. 现在的问题是研究极限是否在一个概率为1的点集上存在. 定义1 设和{}是定义在概率空间 (Ω, F, P)上的随机变量序列. 1. 如果存在F, P()=0, 且对任意，有，则称以概率1收敛（converge with probability one）或几乎处处收敛(almost surely converge)于，记作(a. s. ). 2. 如果存在F, P()=0, 且对任意，数列{(ω)}是柯西基本列，即(ω)-(ω)→0，(n m→∞), 则称以概率1是柯西基本列. 注 (a. s. ) 意味着最多除去一个零概率事件外, 逐点收敛于. 根据柯西基本数列一定存在极限的原则, 以概率1收敛当且仅当以概率1是柯西基本列. 下面给出以概率1收敛的判别准则. 定理1 设和{}是定义在概率空间 (Ω, F, P)上的随机变量序列. (1) (a. s. ) 当且仅当对任意ε0, , 或者等价地 . (2) {}以概率1是柯西基本列当且仅当对任意ε0, , 或者等价地 . 证 (1) 对任意ε0, 令. 那么 {}. 由连续性定理（第一章§3）, . 则下列关系式成立: 0 = P() , 对任意m , 对任意m , 对任意m , 对任意ε0 . (2). 对任意ε0, 令, 那么 {不是柯西基本列}=. 以下类似于(1)即可证明. 推论 如果对任意ε0, , 则(a. s. ). 证 注意到即可. 注 定理1表明(a. s. )可推出. 反之, 存在例子表明并不能导出(a. s. )（见补充与注记4）. ? 二、强大数定律 与以概率1收敛密切相关的是强大数定律. 定义2 设{}是定义在概率空间(Ω, F, P)上的随机变量序列, 如果存在常数列和使得 (a. s. ) , 则称{}服从强大数定律(strong law of large numbers). 由于几乎处处收敛性强于依概率收敛性, 故强大数定律也比弱大数定律更深入一步. 我们在第二节知道，贝努里通过对二项分布的精确估计得到贝努里弱大数定律，即贝努里随机试验中事件发生的频率依概率收敛于该事件的概率. 直到1909年波雷尔才证明了下面更强的结果. 定理2（波雷尔强大数定律） 设{}是定义在概率空间(Ω, F, P)上的独立同分布随机变量序列，P(=1)= p, P(=0)=1-p, 0p1. 记, 则 (a. s. ). (1) 定理2进一步表达了“频率稳定到概率”这句话的含义. 柯尔莫哥洛夫1930年将上述结果从二项分布的随机变量推广到一般随机变量. 定理3（柯尔莫哥洛夫强大数定律） 设{}是定义在概率空间 (Ω, F, P)上的独立同分布随机变量序列，E. 记, 则 (a. s. ). (2) 事实上, 定理3的逆也成立: 如果存在常数, 使得(2)式成立, 那么的数学期望存在且等于. 这两个定理的证明从略. 例1 （蒙特卡罗方法） 令f (x) 是定义在[0, 1]上的连续函数, 取值于[0,1]. 令是一列服从于[0, 1]上的均匀分布的独立随机变量序列. 定义 , 则{}也独立同分布. 而且 , 由定理3, (a. s. ). (3) 因此我们可以通过模拟来计算积分值, 方法是：在xoy平面的正方形{0≤x≤1, 0≤y≤1}上随机投点, 统计落在区域{0≤x≤1, 0≤y≤f (x)}内的频率（即为(3)式的左边）, 当投点次数充分多时, 此频率可充分接近所求积分. 至此, 我们已经介绍了概率论中一些经典的极限定理. ? 补充与注记 1. 在18和19 世纪, 极限定理一直是概率论研究的中心课题. 贝努里大数定律是第一个从数学上被严格证明的概率论定律, 它由贝努里在其1713年出版的名著《 推测术》中详细给出. 大数律这个名称则是泊松（Poisson 1781-1840）于1837年提出的. 中心极限定理这个名词1920年由波利亚（）给出，用于统称随机变量序列部分和的分布渐