第3章 参数估计理论.docVIP

第3章 参数估计理论 参数估计的基本方法：点估计，区间估计 点估计：以样本的某一函数值作为总体中未知参数的估计值。 区间估计：把总体中的参数确定在某一区间内。第1节 点估计点估计就是以样本的某一函数值作为总体中未知参数的估计值。设是总体的待估参数，用样本构造一个合适的统计量来估计参数，通常记为，即，称为参数的估计量。对样本的一组观测值，统计量的值称为参数的估计值。点估计的问题就是要找一个作为待估参数的估计量的问题。点估计的方法：数字特征法（矩估计法）、极大似然估计法、Bayes估计法、最小二乘法等等。第2节 矩估计法矩估计法由英国统计学家K.Person在20世纪初提出，基本思想就是用样本矩去估计相应的总体矩。理论依据是大数定律。 例1 设总体服从参数为的指数分布，即为取自总体的样本，求参数的矩估计量。 例2 设总体，为取自总体的样本，求参数的矩估计量。 例3 设总体，为取自总体的样本，求参数的矩估计量。 例4 设总体，为取自总体的样本，求参数的矩估计量。 例5 设总体，为取自总体的样本，求参数的矩估计量。第3节 极大似然估计法极大似然估计法最初由德国数学家C.F.Gauss于1821年提出，英国统计学家R.A.Fisher于1922年再次提出极大似然的思想，并探讨了它的性质。假设总体，其中参数未知，现抽取容量为3的样本，如果样本观察值为1、2、1，我们来估计参数。 极大似然估计法的步骤： 对一组样本，写出似然函数； 将似然函数取对数； 令，求出，即为的极大似然估计。 例1 设总体，为取自总体的样本，求参数的极大似然估计量。 例2设总体，为取自总体的样本，求参数的极大似然估计量。 例3 设总体，为取自总体的样本，求参数的极大似然估计量。 例4 设总体，为取自总体的样本，求参数的极大似然估计量。 定理1 设是参数的极大似然估计，若存在唯一的反函数，则是的极大似然估计。 例5 设总体，未知，为取自总体的样本，求的极大似然估计。 第4节 Bayes估计Bayes公式例 对以往数据分析结果表明，当机器调整良好时，产品的合格品率为90%，而当机器发生故障时产品的合格品率为30%。每天早上机器开动时机器调整得良好的概率为75%。试求已知某日早上第一件产品是合格品时机器调整得良好的概率是多大？ 解：设事件为“产品为合格品”，事件为“机器调整得良好”。则 一、决策理论的基本概念统计决策理论是著名统计学家A.Wald（1902-1950)在20世纪40年代建立起来的（Wald.A. Statistical decision function. New York：John Wileysons, 1950.中译本：王福宝译，统计决策函数，上海教育出版社，1963）。统计决策理论与经典统计学的差别在于是否涉及后果。经典统计学重在推断上，而不考虑用在何处以及效果如何，统计决策理论引入损失函数，用来度量效益的大小，评价统计推断结果的优劣。Bayes分析是英国学者T.Bayes（1702-1761）首先提出，在20世纪后半叶迅速发展，它与经典统计学的差别在于是否使用先验信息。 1、决策问题与决策空间 例1 设甲乙两人进行一种游戏，甲手中有三张牌，分别标有，乙手中也有三张牌，分别标有。游戏规则是双方各自独立地出牌，按下表记甲的得分与乙的失分： 甲 乙3-20 14-3 -4-12 描述这类决策问题有三要素： 状态集：状态集表示自然界或社会所有可能状态的全体。也称为参数集或参数空间。如本例的。 行动集：行动集表示决策者可能采取的行动的全体。也称为决策集或决策空间。如本例的 收益函数：收益函数表示自然界或社会处于状态时，决策者采取行动所获的收益。如本例的得分。当和都是有限集时，成为收益矩阵。 （1）先验信息：人们在过去对自然界或社会的各种状态所获得的信息。 （2）样本的信息：从与自然界或社会的状态有关的环境中抽样，从获得的样本中了解当今状态的最新信息。如果在一个决策问题中只利用样本的信息，这种问题称为统计决策问题；如果在一个决策问题中不仅利用样本的信息，还利用先验信息，这样的问题称为Bayes决策问题。 例2 某工厂生产的产品每100件装成一箱运交顾客，在向顾客交货前面临如下两个行动：a 1:一箱中逐一检查； a2：一箱中都不检查 若工厂选择行动a1，则可保证交货时每件产品都是合格品。但因每件产品检查费为0.8元，为此工厂要支付检查费80元/箱；若工厂选择行动a2，工厂可免付每箱检查费80元，但顾客发现不合格品时，按合同不仅允许更换，而且每件还要支付12.5元的赔偿金。 2、损失函数且有限，它反映决策中由于的不同，即使同一个偏差造成的危害性常不一样，而是的非降函数。最常见的形式是，取非负整数。 常用的损