各种收敛分布和极限分布.ppt

第三章各种收敛方 式与极限分布  3.1依概率收敛 首先按数学上对极限的定义方式给出依概率收敛〔 convergence in probability)的定义 定义3.1(依概率收)如果随机变量序列{Xn}满足对任意E0,存在一个随机变量 X使得lmP(|Xn-x≥e)=0,则称{X}依概率收敛于X,表示为Xn°x. 注1这里的收敛序列并不是随机元素{X(a)},而是非随机序列{P(|Xn-X|≥e) 注2依概率收做并不意味着对点的收敢例如,令 依概率1-1, n,依概率, 则ImP(|x,0i≥e)=mP(X,=m)=limn=0,但是lmX≠0 注3设x1,…X独立同分布,期望和方差分别为4和a2,在不致引起混时可简写 为(m,d),令x,为样本均值,易证E(X,)=p,var(Xn)=d2/n,对X更进一步的说明可以根 据切比雪夫不等式得到,即对任意e0,有 P(xn-H|≥e)s 因此回mP(X,一≥)≤!m=0即x,”+,这也是弱大数定律( weak law of large umbers,WLLN)的一种表述方式  定理31(弱大数定律)已知X1,…,X独立同分布EX1|∞,则当n时,有 X X;→E(X1) 注1弱大数定律及后面将介绍的强大数定律( strong law of large numbers,sLN)都 有很多表述方式更一般的表述是设随机变量序列{X2}满足E(X,)=k,则 X 如果更进一步假设n2n+则n∑X 注2大数定律( law of large numbers,LLN)说明了当样本个数趋向于无穷时,样本 均值的随机性会随之消失换而言之,掌握的数据越多对样本空间和总体期望知道的也 越多 注3虽然广义上的大数定律允许随机变量序列中存在不独立性和异质性 heterogene- y),然而随机变量之间的依赖性越大能从重复抽样中得到的新信息就越少因此对一个不 独立的随机变量序列使用大数定律可能会遇到困难  定理32(依概军收敛的性质)已知X→X,Y,2→y,则 (a)cx X,其中c=imcn为常数,{cn}为非随机数列 (b)x+Y-+X+Y (c)XY,-XY (d)X/Y一X/Y,其中Y≠ 定理33( SLutsky定理)已知xn→→X,f(·)为连续函数,则f(xn)→→f(X 弱大数定律也是参数估计中相合性( consistency)的基础,即当n∞时来白同一个总体 的样本序列会趋近于一个常数 例32(s的相合性)已知随机向量X1,…X,E(X)=B,va(x:)=d∞,证明相 合性可写成S=(n-1)∑(X1-x)2,则 X2-X2 →1×{E(x)-2}=  3.2几乎必然收敛 首先给出几乎必然收敛( almost sure convergence)或以概率1收敛( convergence with probability1)的定义 定义32(几乎必然收敵)如果随机变量序列X,n=1,2,…,满足 P(limX=X)=1, 则称K几乎必然收敛(或以概率收敛)于Ⅹ,记作X,一→X 注1如果对任意C0有P(imx2-X|)=1,也称X→X 注2有时也将几乎必然收敛表述为 P( r lim sup|xn-X|e)=0,对一切e0 另一种表述方式称P(C)=1,即对每个a∈C和任意e0,整个序列中不等式|X-XE至 多成立有限次即 P(|Xn-X|E,o.)=0,对一切e0, 3.1) 其中i0,表示不时地发生( infinitely often).