20讲大数定律与中心极限定理.ppt

概率论与数理统计第20讲 第五章 大数定律与中心极限定理 契比雪夫不等式 设随机变量X有期望值E(X)及方差D(X), 则任给e0, 有 示意图 证 如X是离散型随机变量, 那么 如果X是连续型随机变量, X~f(x), 则 例1 设X是掷一颗骰子所出现的点数, 若给定e=1,2, 实际计算P(|X-E(X)|?e), 并验证契比雪夫不等式成立.解 因P(X=k)=1/6, (k=1,2,3,4,5,6) 例2 设电站供电所有10000盏电灯, 夜晚每一盏灯开灯的概率都是0.7, 而假定开关时间彼此独立, 试用切比雪夫不等式估计夜晚同时开着的灯数在6800与7200之间(不包括6800与7200)的概率. 解 令X为同时开灯的数目, 则X~B(10000, 0.7) 习题 一颗骰子连掷4次, 点数之和为X, 用契比雪夫不等式估计P(10X18).解 假设X1,X2,X3,X4为1,2,3,4次掷得的点数. 则X=X1+X2+X3+X4, 而可以求得 大数定律的概念 例1 掷一颗骰子, 出现1点的概率是1/6, 在掷的次数比较少时, 出现1点的频率可能与1/6相差很大, 但是在掷的次数很多时, 出现1点的频率接近1/6是必然的. 例2 测量一个长度a, 一次测量的结果不见得就等于a, 量了若干次, 其算术平均值仍不见得等于a, 但当测量次数很多时, 算术平均值接近于a几乎是必然的. 一、算术平均值 在相同条件下对某一个随机变量进行反复地试验, 计划试验n次, 就试验方案而言, 这样的试验将产生出相互独立且同样分布的n个随机变量X1,X2,...Xn. 将这n个随机变量加起来除以n称做这n个随机变量的算术平均值, n个随机变量的算术平均值当试验次数n无限增大的时候, 此随机变量将趋向于常数, 即数学期望, 这就是大数定律. 和极限定义的区别： n个随机变量的算术平均值当试验次数n无限增大的时候, 此随机变量将趋向于常数, 即数学期望, 这就是大数定律. 和极限定义的区别： 传统的一个数列{an}的极限定义为, 任给一个非常小的实数e, 存在着一个正数N, 当nN时, |an-a|e. 但概率不行. 比如说虽然掷硬币试验次数增加时正面出现的频率将趋于0.5, 但无论试验多少回, 次次正面向上的机会都是存在的. 定义有关随机变量的极限的办法--均方收敛. 当一个随机变量的方差为0时, 这个随机变量实际上就是一个常数. 那么, 可以知道,一组相互独立同分布的期望为m方差为s2随机变量, 它们的n个变量的算术平均值的期望和方差为 二、均方收敛.  一组相互独立同分布的期望为m方差为s2随机变量, 它们的n个变量的算术平均值的期望和方差为 可见当随着试验次数增加, n次试验的算术平均值的数学期望将保持不变, 而其方差则随着n的增加而减少, 趋向于0。  因此可以认为算术平均值将趋向于一个常数, 即随机变量的期望. 定义： 当一列随机变量的方差趋向于0的时候, 如果它们的数学期望不变,为m, 则称为这组随机变量均方收敛于数学期望m, 定义： 当一列随机变量的方差趋向于0的时候, 如果它们的数学期望不变,为m, 则称这组随机变量均方收敛于数学期望m, 三、依概率收敛契比雪夫不等式中 由此可见, 如果D(Yn)趋向于0, 则Yn落在其期望m周围的任意一个小区间(m-e,m+e)内的概率就趋向于1, 定义Y1,Y2,…Yn…. 依概率收敛于m. 定义 若存在常数a, 使对于任何e0, 有 定理 (辛钦大数定律p147) 如果X1,X2,...是相互独立并且具有相同分布的随机变量, 有E(Xi)=a(i=1,2,...), 则有 定理(伯努利大数定律) 在独立试验序列中, 当试验次数n无限增加时, 事件A发生的频率X/n(X是n次试验中事件A发生的次数)满足, 这个定理说明在试验条件不变的情况下, 重复进行多次试验时, 任何事件A发生的频率将趋向于概率. 中心极限定理 中心极限定理是概率论的一个非常重要的定理, 它原来叫中心极限定律. 描述: 如果多个相互独立的随机变量相加, 不管它们是离散的还是连续的或者是任何类型的, 只要它们大小相差并不悬殊, 则加起来以后得到的随机变量, 就近似服从正态分布. 正态分布的概率密度的图形 二项分布的随机变量可看作许多相互独立的0-1分布的随机变量之和, 下面是当X~B(20,0.5)时, X的概率分布图 泊松分布相当于二项分布中p很小n很大的分布, 因此, 参数l=np当很大时也相当于n特别大, 这个时候泊分布也近似服从正态分布