概率论与数理统计第4章第4节大数定理与中心极限定理.docVIP

第四节 大数定理与中心极限定理 概率论与数理统计是研究随机现象统计规律性的学科. 而随机现象的规律性在相同的条件下进行大量重复试验时会呈现某种稳定性. 例如, 大量的抛掷硬币的随机试验中, 正面出现频率; 在大量文字资料中, 字母使用频率; 工厂大量生产某种产品过程中, 产品的废品率等. 一般地, 要从随机现象中去寻求事件内在的必然规律, 就要研究大量随机现象的问题. 在生产实践中, 人们还认识到大量试验数据、测量数据的算术平均值也具有稳定性. 这种稳定性就是我们将要讨论的大数定律的客观背景. 在这一节中，我们将介绍有关随机变量序列的最基本的两类极限定理----大数定理和中心极限定理. 教学目标：了解大数定理与中心极限定理。 教学重点：大数定理与中心定理。 教学难点：中心定理。 教学内容： 一、依概率收敛 与微积分学中的收敛性的概念类似, 在概率论中, 我们要考虑随机变量序列的收敛性. 定义1 设是一个随机变量序列, 为一个常数,若对于任意给定的正数,有 则称序列依概率收敛于, 记为 定理1 设又设函数在点连续, 则 . 二、切比雪夫不等式 定理2设随机变量有期望和方差,则对于任给, 有 . 上述不等式称切比雪夫不等式. 注：(i) 由切比雪夫不等式可以看出,若越小, 则事件 的概率越大, 即, 随机变量集中在期望附近的可能性越大. 由此可见方差刻划了随机变量取值的离散程度. (ii) 当方差已知时,切比雪夫不等式给出了与它的期望的偏差不小于的概率的估计式.如取 则有 故对任给的分布,只要期望和方差存在, 则随机变量取值偏离超过的概率小于0.111. 三、大数定理 1．切比雪夫大数定律 定理3 (切比雪夫大数定律)设是两两不相关的随机变量序列,它们数学期望和方差均存在, 且方差有共同的上界, 即 则对任意, 有 注: 定理表明: 当很大时,随机变量序列的算术平均值依概率收敛于其数学期望. 2．伯努利大数定理 定理4 (伯努利大数定律)设是重伯努利试验中事件发生的次数, 是事件在每次试验中发生的概率, 则对任意的, 有 或 . 注：(i) 伯努利大数定律是定理1的推论的一种特例, 它表明: 当重复试验次数充分大时, 事件发生的频率依概率收敛于事件发生的概率.定理以严格的数学形式表达了频率的稳定性. 在实际应用中, 当试验次数很大时,便可以用事件发生的频率来近似代替事件的概率. (ii) 如果事件的概率很小，则由伯努利大数定律知事件发生的频率也是很小的，或者说事件很少发生. 即“概率很小的随机事件在个别试验中几乎不会发生”，这一原理称为小概率原理，它的实际应用很广泛. 但应注意到，小概率事件与不可能事件是有区别的. 在多次试验中，小概率事件也可能发生. 3．辛钦大数定理 定理5 (辛钦大数定律) 设随机变量相互独立, 服从同一分布,且具有数学期望 则对任意, 有 . 注: (i) 定理不要求随机变量的方差存在; (ii) 伯努利大数定律是辛钦大数定律的特殊情况; (iii) 辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径. 例如, 要估计某地区的平均亩产量, 可收割某些有代表性的地块, 如块,计算其平均亩产量, 则当较大时,可用它作为整个地区平均亩产量的一个估计. 此类做法在实际应用中具有重要意义. 四、中心极限定理 在实际问题中, 许多随机现象是由大量相互独立的随机因素综合影响所形成, 其中每一个因素在总的影响中所起的作用是微小的. 这类随机变量一般都服从或近似服从正态分布. 以一门大炮的射程为例, 影响大炮的射程的随机因素包括: 大炮炮身结构的制造导致的误差, 炮弹及炮弹内炸药在质量上的误差, 瞄准时的误差, 受风速、风向的干扰而造成的误差等. 其中每一种误差造成的影响在总的影响中所起的作用是微小的, 并且可以看成是相互独立的, 人们关心的是这众多误差因素对大炮射程所造成的总影响. 因此需要讨论大量独立随机变量和的问题. 中心极限定理回答了大量独立随机变量和的近似分布问题, 其结论表明: 当一个量受许多随机因素(主导因素除外) 的共同影响而随机取值, 则它的分布就近似服从正态分布. 1．林德伯格—勒维定理 定理6 (林德伯格—勒维) 设是独立同分布的随机变量序列, 且 则 注: 定理6表明: 当充分大时, 个具有期望和方差的独立同分布的随机变量之和近似服从正态分布. 虽然在一般情况下, 我们很难求出的分布的确切形式, 但当很大时, 可求出其近似分布. 由定理结论有 故定理又可表述为: 均值为, 方差的的独立同分布的随机变量的算术平均值, 当充分大时近似地服从均值为,方差为的正态分布. 这一结果是数理统计中大样本统计推断的理论基础