概率论与数理统计第27讲大数定律.docVIP

大数定律 依概率收敛 在第5讲中，把频率稳定值称为“统计概 率”；在第24讲中，把算数平均值稳定值称 为“数学期望”，这里“稳定”的含义是 什么？ 依概率收敛 例如，设A为某一试验的事件，将试验在 相同的条件下重复进行n次，用m表示A出现 的次数，m/n为A出现的频率，p为事件A发生 的概率，当试验次数n充分大时，频率m/n稳 m 定于概率p，可以写成 ? lim p. ? n n ?? 即， m ?? ? ? 当 ? 时，有 ? ? ? 0, N, n N p . n 依概率收敛 这里频率是随机变量，频率m/n稳定于概率p, 应该从概率的角度来理解，即 ? ? m ?? ? ? ? ? ? ? ? 0,当n充分大时，有P p 1. n ? ? ? ? m 故 lim P ? p ? 1. ? ? ? ? n n ?? ? ? 把它称为依概率收敛. 依概率收敛 定义1 设Z1,Z2,?,Zn,?是一个随机变量 ? ? 有 序列，a是一个常数，若对任意 0 或 lim ( ) 1, P Z ? a ? ? ? n n ?? P Z ? a ? ? ? n n ?? lim ( ) 0, 则称序列Z1,Z2,?,Zn,?依概率收敛于a,记为 P P lim Z a Z a(n ). ? 或 ? ? ? n n n ?? 切比雪夫不等式 定理1 对任意随机变量X,若D(X)存在，则对 任意 或 ? ? 有 0 D(X ) P X ? E X ? ? ? [| ( ) | ] . ? 2 D(X ) P X ? E X ? ? ? ? [| ( ) | ] 1 . ? 2 E X ?? E(X)? ? E(X) ( ) 切比雪夫不等式 证 设X的概率密度为f(x), 则 P[| X E(X )| ] f (x)dx ? ? ? ? ? |x?E( X )|?? [x E(X)] ? 2 ? ? |x?E( X )|? ? ? 2 f (x)dx 1 D(X ) ?? ? ? ? ? [x E(X )] f (x)dx . 2 ? ? 2 2 ?? 对离散型随机变量，只需把积分号换成求和 号即可. 切比雪夫不等式 切比雪夫不等式应用范围广，但估计得比 较粗糙. 例1 用切比雪夫不等式确定掷一匀称硬币时， 需掷多少次，才能保证“正面”出现的频率 在0.4至0.6之间的概率不小于0.9. 解 设需掷n次,正面出现次数为X,则 X~B(n, 0.5), E(X)=0.5n, D(X)=0.25n. 切比雪夫不等式 X 求满足 的n. ? ? ? P(0.4 0.6) 0.90 n X~B(n, 0.5), E(X)=0.5n, D(X)=0.25n. X P(0.4 0.6) P(0.4n X 0.6n) ? ? ? ? ? n 0.25n 25 ? ? ? ? ? ? ? ? P(| X 0.5n | 0.1n) 1 1 0.9 2 (0.1n) n 所以 250. n ? 伯努利大数定律 定理2 设Yn是n重伯努利试验中事件A发生的 次数，p(0p1)是事件A发生的概率，则对 任给的ε 0，有 Y lim P{| n p | } 0. ? ? ? ? n n?? 或 Y lim P{| n p | } 1, ? ? ? ? n n?? 伯努利大数定律提供了用频率来确定概率的 理论依据. 伯努利大数定律 Y B n p E Y ? np D Y ? npq 证 由已知 ~ ( , )，故 ( ) , ( ) n n n (q ? 1? p), ? Y ? ? ? Y ? ? 1 ? pq 从而 E p D D Y n , n ( ) . ? ? ? ? 2 n ? ? ? ? n n n n Y pq ? ? ? ? ? 由切比雪夫不等式得 0 P{| n p | } , n n ? 2 故 Y lim P{| n p | } 0. ? ? ? ? n n?? 独立同分布随机变量序列 定义2 若随机变量序列X1,X2,?,Xn,? 相互独立，对n ≥2, X1,X2,?,Xn独立，且有 相同的分布函数，则称X1,X2,?,Xn,? 是独 立同分布的随机变量序列. 切比雪夫大数定律 定理3 设X1,X2,?,Xn,?是相互独立的随机 变量序列.它们都有有限的方差，并且方差 有共同的上界，即 D(Xi) ≤C(i=1,2,?),则对 任意ε 0，有 1 n 1 n ? ? lim P{| X (EX )| } 0 ? ? ? ? i i n n n?? ? ? i 1 i 1 或 1 n 1 n ? ? lim P{| X E(X )| } 1. ? ? ? ? i i n n n?? ? ? i 1 i 1 切比雪夫大数定律 推论 设X