第五章大数定律与中心极限定理.pptVIP

第五章 大数定律与中心极限定理 切比雪夫不等式 大数定律 中心极限定理 5.2 大数定律 二、几个常用的大数定律 例5.2 5.3 中心极限定理 二、德莫佛-拉普拉斯定理(De Moivre-Laplace) * * 5.1 切比雪夫(Chebyshev,俄罗斯)不等式 定理5.1.1 设随机变量X，E(X)=μ， D(X)=σ2，则对任意的ε0，必有 或 或等价于 为研究随机现象的统计规律,进行大量重复实验中, 当实验次数n→∞时,频率fn在某种收敛意义下(依概 率收敛)收敛于某一定数,这是大数定律所描述的内 容.而其概率分布近似于某一分布(如正态分布),这 称为中心极限定理. 切比雪夫不等式 给出了在随机变量X的分布未知时，概率 P(|X-E(X)|≥ε)的一个上限， 当ε分别取时2σ，3σ，4σ时，有 P(|X-E(X)|≥2σ)≤1/4 P(|X-E(X)|≥3σ)≤1/9 P(|X-E(X)|≥4σ)≤1/16 证明: 以连续型为例.(离散的证明中相应积分 号用和号代替). ≥1 推论:D(X)=0,则X以概率1为常数，即 P(X=C)=1(C=EX) 证明: 事件未必互不相容,但≤是成立的 例5.1已知某种股票每股价格X的平均值为1元，标准差为0.1元，求a，使股价超过1+a元或低于1-a元的概率小于10%。 解 由切比雪夫不等式 令 设随机变量序列X1,X2,…,Xn，若存在随机变量Y，使得对于任意正数?，均有 则称随机变量序列{Xn}依概率收敛于随机变量Y，并记为 一、依概率收敛 若存在常数a，任意的正数? ，使得 则称随机变量序列{Xn}依概率收敛于常数a，并记为 意思是：当 a 而 意思是： 时，Xn落在 内的概率越来越大。 ,当 与 的区别 (1).切比雪夫大数定律 设随机变量序列X1,X2,…,Xn,…相互独立，每一个随机变量都有数学期望E(X1),E(X2),…,E(Xn),…和有限的方差D(X1),D(X2),…,D(Xn),…，并且D(Xn)≤C (i=1,2,…)，则任意正数?， 即 几个随机变量的均值依概率收敛于它的期望 证明 因为X1,X2,…,Xn,…相互独立， 由切比雪夫不等式可得 该定理表明：相互独立的随机变量的算数平均值 与数学期望的算数平均值的差在n充分大时是一个无穷小量，这也意味着在n充分大时，经算术平均后得到的随机变量 的值将比较紧密地聚集在它的数学期望 的附近。 切比雪夫大数定律的特殊情况:独立同分布大数定律 设随机变量序列X1,X2,…,Xn,…相互独立，且具有相同的数学期望μ和相同的方差σ2，记前n个随机变量的算术平均为Yn， 则随机变量序列Y1,Y2,…,Yn,…依概率收敛于μ，即 证明 切比雪夫大数定律 (2).贝努利大数定律 设进行n次独立重复(贝努利)实验,每次试验中事件A发生的概率为p，记nA为n次试验中事件A发生的次数.则 证明（由切比雪夫不等式可直接证明） 即 证明:随机变量序列{Yn}依概率收敛于μ. 要证{Yn}依概率收敛于μ,需证: (3)辛钦(Khinchine)大数定律：设 为独立且同分布的随机变量序列， 则 ： 设 是独立且同分布的随机变量序列，如果记 且 则 在 时依概率收敛于何值？ 解：显然 满足Khinchine大数定律且 故 例5.3 前面我们的讨论中讲过正态分布在随机变量的一切可能分布中占有特殊地位。在客观世界中，我们遇到的许多随机现象都是服从或近似服从正态分布的，为什么大量的随机变量都服从正态分布？ 俄国数学家李亚普诺夫(Ляпуров)证明了在某些非常一般的充分条件下，独立随机变量的和的分布，当随机变量的个数无限增加时，是趋于正态分布的. 在概率论中，把大量独立的随机变量和的分布以正态分布为极限的这一类定理统称为中心极限定理。它反映的随机变量的特点是：对随机现象起作用的因素众多，但无突出的因素，诸因素的影响微小而均匀，随机变量ξ可以看作是各微小因素叠加的结果。 ξ =?i ξi，和的分布常常是正态的。 我们这里给出的两个最常用的中心极限定理。 设随机变量X1,X2,…,Xn,…相互独立同分布，且E(Xi)=?，D(Xi)=σ2 (σ2 0)(i=1,2,…)，记前n个变量的和的标准化变量为 一、独立同分布的中心极限定理(Lindeberg- Levy林德贝格-列维) 则Yn的分布函数Fn(x)对任意的x∈(-∞,+∞)都有 该定理说明，当n充分大时， Yn近似地服从标准正态分布，Yn~N(0,1)， 随机变量 近似地服从于正态分