极限定及理与条件期望.pptx

第3章 极限定理与条件期望;3.1 极限定理;一、问题的引入;本节要解决的问题 ;大数定律和中心极限定理是概率论的重要基本理论，它们揭示了随机现象的重要统计规律，在概率论与数理统计的理论研究和实际应用中都具有重要的意义。 迄今为止,人们已发现很多大数定律(laws of large numbers) 所谓大数定律，简单地说，就是大量数目的随机变量所呈现出的规律，这种规律一般用随机变量序列的某种收敛性来刻画。 仅介绍几个最基本的大数定律。下面，先介绍二个重要的不等式。;设非负随机变量 X 的期望 E( X )存在，则对于任意实数 a 0 ,;证明;设随机变量 X 的均值 E(X) 及方差D(X)都存在，则对于任意实数 ? 0，有;;证明;说明;例1 设有一大批种子，其中良种占1/6. 试估计 在任选的 6000 粒种子中, 良种所占比例与 1/6 比较上下小于1%的概率.;实际精确计算：; 契比雪夫不等式说明，随机变量X 取值基本上集中在 EX 附近，这进一步说明了方差的意义。 同时当EX 和DX 已知时，契比雪夫不等式给出了概率 的一个上界，该上界并不涉及随机变量 X 的具体概率分布，而只与其方差 DX 和ε 有关，因此，契比雪夫不等式在理论和实际中都有相当广泛的应用。需要指出的是，虽然契比雪夫不等式应用广泛，但在一个具体问题中，由它给出的概率上界通常比较保守。 ;在叙述大数定律之前，首先介绍两个基本概念。 定义1 设 为一个随机变量序列，记为 ，若对任何 n≥2，随机变量 都相互独立，则称 是相互独立的随机变量序列。 定义2 设 为一随机变量序列，X 为一随机变量或常数，若对任意ε＞0，有 则称 依概率收敛于 X , 记为 或 ， . ;;证明;推论1;;推论1意义：;推论1使我们关于算术平均值的法则有了理论上的依据。如我们要测量某段距离，在相同条件下重复进行n次，得n个测量值 ，它们可以看成是n个相互独立的随机变量,具有相同的分布、相同的数学期望μ和方差 ，由推论1的大数定律知，只要n充分大，则以接近于1的概率保证 这便是在n较大情况下反映出的客观规律,故称为“大数”定律。;比推论1条件更宽的一个大数定律是辛钦（Khinchin）大数定律,它不需要推论1条件中“方差 存在”的限制，而在其它条件不变的情况下，仍有契比雪夫式的结论。; 设;5 贝努利（Bernoulli）大数定律;证明;根据推论1有; 这是历史上最早的大数定律，是贝努利在1713年建立的。概率论的研究到现在约有300多年的历史，最终以事件的频率稳定值来定义其概率。作为概率这门学科的基础，其“定义”的合理性这一悬而未决的带根本性的问题,由贝努利于1713年发表的这个“大数定律”给予了解决，被称为概率论的第一篇论文,为概率论的公理化体系奠定了理论基础。 之所以被成为“定律”,是这一规律表述了一种全人类多年的集体经验。因此，对尔后的类似定理统称为大数“定律”。;在概率的统计定义中，事件 A 发生的频率; 在 Bernoulli 定理的证明过程中， Y n 是相互独立的服从 0-1分布的随机变量序列 {Xk} 的算术平均值, Y n 依概率收敛于其数学期望 p .;中心极限定理;设 为一随机变量序列，其标准化随机变量 在什么条件下， , 这是十八世纪以来概率论研究的中心课题，因而，从二十世纪二十年代开始，习惯上把研究随机变量和的分布收敛到正态分布的这类定理称???中心极限定理（Central Limit Theorems）。 这里仅介绍独立同分布场合下的中心极限定理。 ;定理6 独立同分布的中心极限定理;定理表明:;;推论2;推论3;1;定理7 李雅普诺夫(Liapunov)定理;则随机变量之和的标准化变量;定理表明:;定理8 德莫佛—拉普拉斯中心极限定理 （DeMoivre-Laplace ）;定理表明:;正态分布的概率密度的图形;二项分布的随机变量可看作许多相互独立的0-1分布的随机变量之和,下面是当x-B(20,0.5)时,x的概率分布图;泊松分布相当于二项分布中p很小n很大的分布,因此,参数l=np当很大时也相当于n特别大,这个时候泊松分布也近似服从正态分布,下面是l=30时的泊松概率分布图.;中心极限定理的意义;例 设有一大批种子