大数定律及中心极限定理(3)课件.pptVIP

*大數定律及中心極限定理*§1大數定律*在第一章提到過事件發生的頻率具有穩定性,即隨著試驗次數的增加,事件發生的頻率逐漸穩定於某個常數.在實踐中人們還認識到大量測量值的算術平均值也具有穩定性.這種穩定性就是本節要討論的大數定律的客觀背景.*定理一(契比雪夫定理的特殊情況)設隨機變數X1,X2,...,Xn,...相互獨立,且具有相同的數學期望和方差:E(Xk)=m,D(Xk)=s2(k=1,2,...),作前n個隨機變數的算術平均則對於任意正數e,有*證由於由契比雪夫不等式可得*在上式中令n??,並注意到概率不能大於1,即得*E(X1)=E(X2)=...=E(Xn)=m.這種接近是概率意義下的接近.通俗地說,在定理的條件下,n個隨機變數的算術平均,當n無限增加時將幾乎變成一個常數.*設Y1,Y2,...,Yn,...是一個隨機變數序列,a是一個常數.若對於任意正數e,有則稱序列Y1,Y2,...,Yn,...依概率收斂於a.記為*依概率收斂的序列還有以下性質.證,由g(x,y)在(a,b)的連續性可知,任給e0,必存在d0,使當|x-a|+|y-b|d時|g(x,y)-g(a,b)|e,於是{|g(Xn,Yn)-g(a,b)|?e}?{|Xn-a|+|Yn-b|?d} ?{|Xn-a|?d/2}?{|Yn-b|?d/2},*{|g(Xn,Yn)-g(a,b)|?e}?{|Xn-a|+|Yn-b|?d}

?{|Xn-a|?d/2}?{|Yn-b|?d/2},

因此

P{|g(Xn,Yn)-g(a,b)|?e}?

P{|Xn-a|?d/2}+P{|Yn-b|?d/2}

?0,當n??

亦即*這樣,上述定理一又可敘述為:

定理一設隨機變數X1,X2,...,Xn,...相互獨立,且具有相同的數學期望和方差:E(Xk)=m,D(Xk)=s2(k=1,2,...),則序列*定理二(伯努利大數定理)設nA是n次獨立重複試驗中事件A發生的次數.p是事件A在每次試驗中發生的概率,則對於任意正數e0,有或*證因為nA~b(n,p),由第四章§2例6,有

nA=X1+X2+...+Xn,

其中,X1,X2,...,Xn相互獨立,且都服從以p為參數的(0-1)分佈.因而E(Xk)=p,D(Xk)=p(1-p)(k=1,2,...,n),由(1.1)式即得*率收斂於事件的概率p.這個定理以嚴格的數學形式表達了頻率的穩定性.就是說n很大時,事件發生的頻率與概率有較大偏差的可能性很小.由實際推斷原理,在實際應用中,當試驗次數很大時,便可以用事件發生的頻率來代替事件的概率.*定理一中要求隨機變數X1,X2,...的方差存在.但這些隨機變數服從相同分佈的場合,並不需要這一要求,我們有以下的定理.

定理三(辛欽定理)設隨機變數X1,X2,...,Xn,...相互獨立,服從同一分佈,且具有數學期望E(Xk)=m(k=1,2,...),則對於任意正數e,有*§2中心極限定理*在客觀實際中有許多隨機變數,它們是由大量的相互獨立的隨機因素的綜合影響所形成的.而其中每一個別因素在總的影響中所起的作用都是微小的.這種隨機變數往往近似地服從正態分佈.這種現象就是中心極限定理的客觀背景.*二項分佈的隨機變數可看作許多相互獨立的0-1分佈的隨機變數之和,下麵是當x~B(20,0.5)時,x的概率分佈圖*普阿松分佈相當於二項分佈中p很小n很大的分佈,因此,參數l=np當很大時也相當於n特別大,這個時候普阿松分佈也近似服從正態分佈,下麵是l=30時的普阿松概率分佈圖.*在c2(n)分佈中,如果自由度n很大,也可以認為是多個自由度為1的相互獨立的c2(1)分佈的隨機變數的和,因此也近似服從正態分佈.下麵是c2(60)的概率密度曲線.x060120*定理四(獨立同分佈的中心極限定理)設隨機變數X1,X2,...,Xn,...相互獨立,服從同一分佈,且具有數學期望和方差E(Xk)=m,D(Xk)=s2,(k=1,2,...).則隨機變數之和X1+X2+...+Xn的標準化變數設為Yn:(近似服從標準正態分佈)*Yn的分佈函數Fn(x)對於任意x滿足證明略.*此定理說明,均值為m,方差為s2的獨立同分佈的n個隨機變數(n超過10或者20以上)X1,X2,...,Xn之和X1+X2+...+Xn近似服從正態分佈N(nm,ns2).

或者將其標準化有這樣就可以用正態