I参数估计方法.docxVIP

参数估计的方法矩法一、矩的概念矩(moment)分为原点矩和中心矩两种。对于样本，各观测值的k次方的平均值，称为样本的k阶原点矩，记为，有，例如，算术平均数就是一阶原点矩；用观测值减去平均数得到的离均差的k次方的平均数称为样本的k阶中心矩，记为或，有，例如，样本方差就是二阶中心矩。对于总体，各观测值的k次方的平均值，称为总体的k阶原点矩，记为，有；用观测值减去平均数得到的离均差的k次方的平均数称为总体的k阶中心矩，记为或，有。二、矩法及矩估计量所谓矩法就是利用样本各阶原点矩来估计总体相应各阶原点矩的方法，即→(8·6)并且也可以用样本各阶原点矩的函数来估计总体各阶原点矩同一函数，即若则由此得到的估计量称为矩估计量。[例8.1] 现获得正态分布的随机样本，要求正态分布参数和的矩估计量。首先，求正态分布总体的1阶原点矩和2阶中心矩：(此处表示自然对数底数e的的指数式，即)然后求样本的1阶原点矩和2阶中心矩，为最后，利用矩法，获得总体平均数和方差的矩估计故总体平均数和方差的矩估计值分别为样本平均数和样本方差，方差的分母为n。单峰分布曲线还有二个特征数，即偏度(skewness)与峰度(kurtosis)，可分别用三阶中心矩和四阶中心矩来度量。但和是有单位的，为转化成相对数以便不同分布之间的比较，可分别用偏度系数和峰度系数作测度。偏度系数(coefficient of skewness)是指3阶中心矩与标准差的3次方之比；峰度系数(coefficient of kurtosis)是指4阶中心矩与标准差的4次方之比。当偏度为正值时，分布向大于平均数方向偏斜；偏度为负值时则向小于平均数方向偏斜；当偏度的绝对值大于2时，分布的偏斜程度严重。当峰度大于3时，分布比较陡峭，峰态明显，即总体变数的分布比较集中。由样本计算的偏度系数cs=(8·7) 峰度系数ck=(8·8)最小二乘法从总体中抽出的样本观察值与总体平均数是有差异的，这种差异属于抽样误差。因而，在总体平均数估计时要尽可能地降低这种误差，使总体平均数估计值尽可能好。参数估计的最小二乘法就是基于这种考虑提出的。其基本思想是使误差平方和最小，达到在误差之间建立一种平衡，以防止某一极端误差对决定参数的估计值起支配地位。这有助于揭示更接近真实的状况。具体方法是为使误差平方和Q为最小，可通过求Q对待估参数的偏导数，并令其等于0，以求得参数估计量。[例8.4]用最小二乘法求总体平均数的估计量。若从平均数为的总体中抽得样本为y1、y2、y3、…、yn，则观察值可剖分为总体平均数与误差ei之和，总体平均数的最小二乘估计量就是使yi与间的误差平方和为最小，即为最小。为获得其最小值，求Q对的导数，并令导数等于0，可得：即总体平均数的估计量为：因此，算术平均数为总体平均数的最小二乘估计。这与矩法估计是一致的。此处顺便介绍估计离均差平方和的数学期望： =(n-1)因而，估计为：=与矩法所得不同，而与常规以自由度为除数法一致。[例8.5] 求例6.13的两向分组方差分析资料缺1个小区(表8.1)的最小二乘估计量和估计值。从第6章可知，这种资料模式的线性模型为：。该模型的约束条件为：，和误差项服从正态分布。按照最小二乘法的估计原理，使为最小时可以求出效应和缺失小区ye的估计量，即从而，最小二乘估计量分别为：缺区估计是根据线性模型，以及最小二乘法的原理得到的。不过，试验中尽可能不要缺区，因为缺区估计尽管可以估计缺区的值，但是误差的自由度将减少，本试验的误差自由度将减少1。一般地，若m个自变数x1、x2、x3、…、xm与依变数y存在统计模型关系(8·9)其中，为待估参数。通过n次观测(n＞k)得到n组含有的数据以估计。其最小二乘估计值为使(8·10)为最小的。这种估计方法称为参数估计的最小二乘法(least squares)，或最小平方法。第9章将应用最小二乘法估计线性回归中有关参数的估计量，此处不再赘述。极大似然法极大似然法(maximum likelihood method)是参数估计的重要方法。首先，通过举例来说明其思路。例如，有1个射手射击3次，命中0次。试问该射手的命中概率最有可能为3个命中概率：1/5、8/15和4/5中的哪一个？回答该问题可以从两方面来看，一方面，该射手的命中率为0，与此最接近的命中概率为1/5，即1/5最有可能；另一方面，分别假定该射手的命中率为1/5、8/15和4/5，根据二项分布原理分别计算出该射手射击3次命中0次的概率分别为：因此，选择使事件发生概率最大的可能命中概率为1/5，从而认为该射手的命中概率最有可能为1/5。这种参数估计方法称为极大似然法。极大似然法，包括二个步骤：首先建立包括有该参数估计量的似然函数(likelihood function