概率课件讲.pptVIP

第五章 大数定律及中心极限定理 概率论与数理统计是研究随机现象统计规律性的学科. 随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来. 也就是说，要从随机现象中去寻求必然的法则，应该研究大量的随机现象. 研究大量的随机现象，常常采用极限形式，由此导致对极限定理进行研究.极限定理的内容很广泛，其中最重要的有两种: 与 大数定律 中心极限定理 定理1 切比雪夫大数定律的特殊情况 设 X1, X2, …是相互独立的随机变量序列，它们具有相同的数学期望和方差，即 E(Xi)=? ， D(Xi)=? 2 ，i=1,2, … 则对任意的? ?0，有 切比雪夫 (1821-1894) 证明： 切比雪夫大数定律表明，当n充分大时， 与 ? 偏差很小的概率接近于1. 当 n 很大时，X1, …, Xn 的算术平均值在概率 意义下接近于它们公共的均值? 注1： 不一定有相同的数学 期望与方差，只要有数学期望和方差存在，且 方差一致有界即可。即： 有 设 Y1, Y2, … Yn 是随机变量序列，a 是一个常数。若对任意的? ?0，有 则称序列Y1, Y2, … Yn 以概率收敛于常数a 记为 以概率收敛于有以下性质 若 又 g(x, y) 设在点 (a, b) 连续，则 定理1 设 X1, X2, …是相互独立的随机变量序列，它们具有相同的数学期望和方差，即 E(Xi)=? ， D(Xi)=? 2 ，i=1,2, … 以概率收敛于 ? ，即 则序列 即：具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望. 定理2（辛钦大数定律） 设X1, X2, …是独立同分布的随机变量序列，且E(Xi)= ? ，i=1, 2,…, 则对任给? 0, 辛钦 (1894-1959) 辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径. 当 n 足够大时，算术平均值几乎就是一个常数, 可以用算术平均值近似地代替数学期望. 设Sn是n重贝努里试验中事件A发生的 次数，p 是一次试验中事件A发生的概率，则对任给的ε 0， 定理3（贝努里大数定律） 或 (1654-1705) 设Sn是n重贝努里试验中事件A发生的 次数，p 是一次试验中事件A发生的概率 则有 且 由辛钦大数定律，有 设 证明 贝努里大数定律表明，当重复试验次数n充分大时，事件A发生的频率Sn/n与事件A的概率p有较大偏差的概率很小. 贝努里大数定律提供了通过试验来确定事件概率的方法. 贝努里大数定律为小概率原理（或实际推断原理） 提供了理论依据 小概率原理是：小概率事件在一次试验中，它是 几乎不能发生的 例1：设X1, X2, …独立同分布，且 Xi 的k阶矩mk=E(Xi k)存在，则有 证明：令 则有 Y1, Y2, …独立同分布 且 所以由辛钦大数定律 也即 中心极限定理的客观背景 在客观实际中有许多随机变量，它们是由大量的相互独立的随机因素的综合影响所形成的. 而其中每一个别因素在总的影响中所起的作用都是微小的。 该结论得益于高斯对测量误差分布的研究.他指出测量误差服从正态分布 这种随机变量往往近似地服从正态分布。 高斯 1777-1855 例如：考虑炮弹的射击误差。设靶心为坐标原点，弹着点的坐标为( X, Y )， X, Y 分别表示弹着点与靶心的横向和纵向误差。我们来看造成误差的原因是什么？ 炮身在每次射击后，因震动而造成的微小偏差 每发炮弹内炸药的数量和质量上的微小差异而引起的误差 每发炮弹外形上的细小差别引起空气阻力不同，由此出现的误差 炮弹在前进时遇到的空气气流的微小扰动而造成的误差 而误差X（或Y）是这许多彼此间相互独立的随机小误差的总和，即 等等许多原因，每种原因引起一个微小的误差，有的为正，有的为负，都是随机的 一般认为它服 从正态分布。 以下我们从数学上来研究这种随机变量之和的分布 考虑 取值的概率. 可以证明，满足一定的条件时，上述和的分布函数的极限是标准正态分布. 在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做中心极限定理. 我们只讨论几种简单情形. 下面给出的独立同分布随机变量序列的中心极限定理，也称列维一林德伯格（Levy－Lindberg）中心极限定理. 定理1（独立同分布的中心极限定理） 设X1, X2 , …是独立同分布的随机变量序列，且E(Xi)