数理统计与随机过程7-参数估计.pptVIP

参数估计：样本的概率密度函数P(x，?i)的形式已知，去推断概率密度函数中的某些未知的参数?i。01非参数估计：样本的概率密度函数P(x，?i)的形式未知，去推断概率密度函数。02参数估计的两种类型非参数估计当密度函数的形式未知时，只能用非参数方法。它能处理任意的概率分布。在参数估计中,密度函数的参数形式是单模的(单个局部极大值)，然而在现实中，所遇到的却常常是多模的情况。最简单的非参数估计基于直方图的概率密度估计就是一种典型的非参数估计基本思想:设有样本x的概率密度函数为p(x)，则x落在区域R中的概率为:设n个抽取样本为独立同分布样本，其概率密度函数为p(x)，则其中k个样本落在区域R的概率为:0102非参数概率密度函数的估计二项式分布（BinomialDistribution）k的期望值为:E(k)=nPPictireFrom:即比值k/n就是概率P的一个很好的估计.若概率密度p(x)是连续的，并且区域R足够小，以致于在这个区间中p几乎没有变化，那么近似地有:对概率P，用最大似然估计，设参数向量为?=概率P,?其中x为R中的一个点，V是区域R所包含的体积从式(1)，(3)，(4)可得:由二项式分布的性质得：当k?nP时Pk最大，所以这种情况毫无意义！区域R中含有样本:其实是p(x)的空间平均.对有限的n，如果希望得到p(x)，那么要求V的值趋于0。这时会出现两种情况：区域R中不含有任何样本:在这种情况下，估计的结果就变成无穷大:也毫无意义!所以要求：n为有限值，V不能趋于零收敛条件当下面3个条件成立时，pn(x)收敛到p(x)：体积Vn是N的确定函数，比如VN=，来逐渐收缩一个给定的初始区间——“Parzen窗法”有两种经常采用的满足以上三种条件的途径:kn是N的一个确定函数,比如kN=，010203这样体积VN就必须逐渐生长，直到最后能包含进x的kN个相邻点. ——“K-近邻估计”K-近邻估计Parzen窗法Parzen窗法根据某一个确定的体积函数，比如，来逐渐收缩一个给定的初始区间。Parzen窗方法估计概率密度函数，我们假设区间Vn是一个d维的超立方体其中hn为Vn的边长令窗函数为：如果xi落在中心为x的超立方体Vn中，那么

?((x-xi)/hn)＝1，否则为0.Parzen窗法将kn代入pn(x)=(kn/n)/Vn,得：01p(x)的估计pn(x)是一系列关于x和{xi}(i=1,…,n)的函数的平均.02推广：窗函数?可以是满足概率容许条件的任意函数03超立方体中的样本个数:************数理统计与随机过程*兰州大学信息科学与工程学院主讲:路永刚非正态总体的区间估计PART1σ2未知时04σ2已知时057.6非正态总体的区间估计01或03前面两节讨论了正态总体分布参数的区间估计。但是在实际应用中，我们有时不能判断手中的数据是否服从正态分布，或者有足够理由认为它们不服从正态分布。但是，只要样本大小n比较大，总体均值μ的置信区间仍可用正态总体情形的公式02所不同的是：这时的置信区间是近似的。设总体均值为μ,方差为σ2,X1,X2,…,Xn为来自总体的样本。因为这些样本独立同分布的，根据中心极限定理，对充分大的n,下式近似成立02这是求一般总体均值的一种简单有效的方法，其理论依据是中心极限定理，它要求样本大小n比较大。因此，这个方法称为大样本方法。01当σ2未知时，用σ2的估计S2来代替σ2，得于是，μ的置信系数约为1-α的置信区间为BA因而，近似地有只要n很大，(2)式所提供的置信区间在应用上是令人满意的。01那么，n究竟多大才算很大呢？02显然，对于相同的n,(2)式所给出的置信区间的近似程度随总体分布与正态分布的接近程度而变化，因此，理论上很难给出n很大的一个界限。03但许多应用实践表明：当n≥30时，近似程度是可以接受的；当n≥50时，近似程度是很好的。04解：查正态分布表，得zα/2=z0.025=1.96，由公式(2)，得电