第11讲大数定律与中心极限定理讲解.ppt

第 11 讲 大数定律与中心极限定理 二、大数定律 1. 切比雪夫不等式 2. 切比雪夫大数定律 3. 贝努力大数定律 4. 辛钦大数定律 三、中心极限定理 1. 独立同分布中心极限定理 2. Lyapunov 中心极限定理 3. De-Moivere-Laplace 中心极限定理 一、背景 第 11 讲 大数定律与中心极限定理 一、背景 1. 为何能以某事件发生的频率作为该事件的概率的 估计？ 2. 为何能以样本均值作为总体期望的估计？ 3. 为何正态分布在概率论中占有极其重要的地位？ 4. 大样本统计推断的理论基础是什么？ 第 11 讲 大数定律与中心极限定理 二、大数定律 1. 切比雪夫不等式 设随机变量 X 的数学期望 E ( X )= ? , 方差 D ( X )= ? 2 , 则 对任意的正数 ? ，不等式 2 ( ) {| | } D X P X ? ? ? ? ? ? 2 ( ) {| | } 1 D X P X ? ? ? ? ? ? ? 或 成立 . 第 11 讲 大数定律与中心极限定理 二、大数定律 2. 切比雪夫大数定理 若 X 1 ， X 2 ， ? ， X n ， ? ，为独 立同分布随机变量序列 , E ( X k )= ? D ( X k )= ? 2 ( k =1, 2, … ) ，则对任 意的正数 ? 0, 有 1 1 lim {| | } 1 n k n k P X n ? ? ??? ? ? ? ? ? 或 1 1 lim {| | } 0 n k n k P X n ? ? ??? ? ? ? ? ? 证 根据已知条件 1 1 ( ) n k k E X n ? ? ? ? ? 2 2 1 1 ( ) n k k D X n n ? ? ? ? ? 2 ( ) {| ( ) | } 1 D X P X E X ? ? ? ? ? ? 由切比雪夫不等式，有 2 2 1 1 1 {| | ) 1 n k k P X n n ? ? ? ? ? ? ? ? ? ? ? 又 2 2 lim(1 ) 1 n n ? ? ?? ? ? 1 1 lim {| | } 1 n k n k P X n ? ? ??? ? ? ? ? ? 所以 1 1 1 1 ( ) ( ) n n k k k k E X E X n n ? ? ? ? ? 2 1 1 1 1 ( ) ( ) n n k k k k D X D X n n ? ? ? ? ? 第 11 讲 大数定律与中心极限定理 二、大数定律 3. 伯努例大数定理 设 n A 为是 n 次独立重复试验中 事件 A 发生的次数 , p 是事件 A 在每 次试验中发生的概率 , 则对任意的 正数 ? 0, 有 lim {| | } 1 A n n P p n ? ??? ? ? ? 或 lim {| | } 0 A n n P p n ? ??? ? ? ? 证 设 1, 0, . k A k X A k ? ? ? ? 在第 次试验中发生， 在第 次试验中未发生 那么 相互独立，且服从参数为 p 的 0 — 1 分 布， E ( X k )= p ， D ( X k )= p (1- p ). 1 2 , , , n X X X 由切比雪夫大数定理 , 有 1 1 lim {| | } 1 n k n k P X n ? ? ??? ? ? ? ? ? 即 lim {| | } 1 A n n P p n ? ??? ? ? ? 1 2 A n n X X X ? ? ? ? 第 11 讲 大数定律与中心极限定理 二、大数定律 4. 辛钦大数定理 若 X 1 ， X 2 ， ? ， X n ， ? ，为独 立同分布随机变量序列 , E ( X k )= ? ( k =1, 2, … ) ，则对任意的正数 ? 0, 有 1 1 lim {| | } 1 n k n k P X n ? ? ??? ? ? ? ? ? 或 1 1 lim {| | } 0 n k n k P X n ? ? ??? ? ? ? ? ? 定义 1 设 Y 1 ， Y 2 ， ? ， Y n ， ? , 是一随机变量序列， a 为一常数 . 若对任意给定正数 ? 0, 有 则称