概率2.3_大数定理与中心极限定理研讨.ppt

大数定律中心极限定理 LOGO 大数定律中心极限定理 概率论基础 （Ⅲ） 2009年3月 山西大学数学科学学院 大数定律中心极限定理 * 知识拓展 山西大学数学科学学院 大数定律中心极限定理 * 一、多维随机变量（随机向量） 二、多维随机变量的特征数 三、大数定理 四、中心极限定理 相关概念 山西大学数学科学学院 大数定律中心极限定理 * n维随机变量（随机向量）的形式： n维随机变量的联合分布函数： 二维离散型随机变量的联合分布列： 二维连续型随机变量的联合分布函数： 二维随机变量的特征数 山西大学数学科学学院 大数定律中心极限定理 * 协方差 相关系数 二维随机变量的协方差 山西大学数学科学学院 大数定律中心极限定理 * 设（X，Y）是一个二维随机变量，如果 存在，则称其为X与Y的协方差，或称为X与Y的相关（中心）矩，并记为 特别地： 协方差 0，称X与Y正相关，即同增同减； 协方差 0，称X与Y负相关，即增减相反； 协方差 = 0，称X与Y不（线性）相关。 二维随机变量的协方差 山西大学数学科学学院 大数定律中心极限定理 * 协方差的性质： Cov(X,Y)=E(XY)-E(X)E(Y)； 若X与Y独立，则Cov(X,Y)=0，反之亦然； Cov(X,Y)=Cov(Y,X)； Cov(X,a)=0，a为常数； Cov(aX,bY)=abCov(Y,X)，a,b为常数; Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)； Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y), Var(X-Y)=Var(X)+Var(Y)-2Cov(X,Y)。 二维随机变量的相关系数 山西大学数学科学学院 大数定律中心极限定理 * 设（X，Y）是一个二维随机变量，且Var(X)0，Var(Y)0。则称 为X与Y的相关系数。 相关系数与协方差是同符号的，即同正同负，所以从相关系数的取值也可以反映X与Y的（线性）相关性。 相关系数可以看做是X与Y标准化后的协方差。 二维随机变量的相关系数 山西大学数学科学学院 大数定律中心极限定理 * 相关系数的性质： 有界： ; 不等式关系： ； 相关系数为 的充分必要条件是X与Y几乎处处有线性关系，即存在a(不为0)和b，使得P(Y=aX+b)=1。其中当Corr(X,Y)=1时，有a0 ；当Corr(X,Y)=1，有a0。 独立与不相关 山西大学数学科学学院 大数定律中心极限定理 * 一般场合，独立必然导致不相关，但不相关推不出独立。 但在正态场合下两者等价。 TH. 在二维正态分布 场合，不相关与独立是等价的。 伯努利大数定律 山西大学数学科学学院 大数定律中心极限定理 * 设 为n重伯努利试验中事件A发生的次数，p为每次实验中A出现的概率，则对任意的 ，有 注解： 只要试验次数足够大，事件A发生的频率 就会与其概率真值相当的接近，偏离的机会很小，可以认为是0。 大数定律的一般形式 山西大学数学科学学院 大数定律中心极限定理 * 设有一随机变量序列{Xn}，若对任意的 ，有 则称该随机变量序列服从大数定律。 注解： 只要n充分大，随机变量“平均值”与理论“期望”可以无限接近。 大数定律的不同形式 山西大学数学科学学院 大数定律中心极限定理 * 1、 切比雪夫大数定律 设{Xn}为一列两两不相关的随机变量序列，若每个Xi的方差存在，且有共同的上界，则{Xn}服从大数定律。 2、 马尔科夫大数定律（条件） 随机变量序列{Xn}，若满足 3、 辛钦大数定律 设{Xn}为一独立同分布的随机变量序列，若Xi的期望存在，则{Xn}服从大数定律。 中心极限定理大数定律的关系 山西大学数学科学学院 大数定律中心极限定理 * 大数定律讨论的是多个随机变量的平均(1)的渐进性质，中心极限定理讨论的是随机变量和(2)的极限分布。 (1) (2) 独立同分布的中心极限定理 山西大学数学科学学院 大数定律中心极限定理 * 1、 林德贝格-勒维中心极限定理 设{Xn}是独立同分布的随机变量序列，且 记 则对任意实数y，有 注解：独立随机变量和序列标准化后的分布是渐进正态的。 二项分布的正态近似 山西大学数学科学学院 大数定律中心极限定理 * 2、棣莫弗-拉普拉斯极限定理 设n重伯努利试验中，事件A在每次实验中出现的概率是p(0p1)，记 为n次试验中事件A出现的次数，且记 则，对任意实数y，有 注解：二项分布（n个独立同分布事件和）是渐进正态的。 林德贝格条件 山西大学数学科学学院 大数定律中心极限定理 * 林德