应用统计点估计方法讲述.ppt

参数点估计 　参数点估计是对参数取哪一个值作出估计． 定义：设总体的分布已知，但其中含有未知参数　（可以是一个向量），点估计就是依据某种原理，根据样本来构造统计量　（可以是一个向量）作为　的估计量，记为 当样本取定一个观察值时，估计量也有一个值，这个值称为估计值，不同的抽样，有不同的估计值，它与真值会有差异，这种差异除了抽样带来的误差外，与估计量的形式有关．因此，选取统计量也是非常重要的．我们介绍两种统计量的方法：矩法与极大似然法 矩法估计 假设样本为简单随机样本，则 由大数定律，有 其中 当n比较大时 利用这种近似相等关系的思想，得到矩法估计的定义． 定义：用样本原点矩去代替总体相应的原点矩得到的参数的估计量的方法称为矩法，称这种估计为矩法估计量． 例　设总体　　　　　，其中a,b为未知参数，现从中抽取一个样本观察值（２,3,2,4,3),试用矩法估计a,b的值． 解： 先求估计量，由矩法得方程组 由于 注意到 解得： 我们计算得到 这样得到a,b的估计值是 例　设总体Ｘ的分布密度为 　其中　为未知参数，现从中抽取一个样本，试求　的矩法估计量． 解： 由于 故令 得到估计量 通常我们是采用下面的方法 另解 我们可认为 而 由矩法，我们令 得到 极大似然估计 极大似然估计是利用小概率原理作出估计的． 小概率原理：一个概率非常小的一个事件在一次试验中几乎是不可能发生的；也就是说，如果一个事件在一次试验中居然发生了，那么这个事件发生的概率不可能很小，而应认为其概率会尽可能地大． 例　设总体　　　　　，现从中抽取一个样本观察值（500,300,600,400,700),试估计 的值． 解： 这里，n是5，设　　　　　　为样本，在一次试验中事件 发生了，而 是参数　的函数，由小概率原理，这个概率不会太小，应尽可能大，即求这个概率的最大值．利用求导可得到当　　　　　　时，这个概率达到最大．因此，我们有理由认为参数 　为500.这就是极大似然估计． 一般地，当总体为离散型总体，其分布中含有未知参数　　（可以是向量）， 　为一个样本，　　　　　　　为一次观察值，称 　为似然函数． 称 对数似然函数．称满足 的　为　极大似然估计值，记为 　而称 为极大似然估计量．简称ＭＬ估计． 上例的一般情况是 　例：设总体Ｘ服从参数为　的泊松分布，求 的极大似然估计． 　解：总体Ｘ的分布为 　似然函数为 　对数似然函数为 　这两个函数的极值点相同，对对数似然函数求导，并令其为０，得 　 得到 从而极大似然估计为 当总体是连续型总体时,我们定义似然函数为 对数似然函数为 　 例　设总体　　　　　，试求 的极大似然估计. 解： 解:似然函数为 对数似然函数为 对 求导并令其为0,得 从而解得 的极大似估计 例　设总体　　　　　，其中a,b为未知参数，试求a,b的极大似然估计． 解：总体Ｘ的分布密度 似然函数为 此函数没有极值,它在边界上取得最大值.由于 注　若总体　　　　　，其中b为未知参数，则b的极大似然估计为 若总体　　　　　，其中a为未知参数，则a的极大似然估计为 极大似然估计的数值解 极大似然估计需要求似然方程(组)的解, 但在大多数情况下,似然方程的解往往没有解析表达式.这时需要利用数值方法来求方程(组)的近似解.通常采用迭代求解,如课本上介绍的Newton-Raphson算法 　（见教材P27-29） * *