章参数估计pps 1点估计.pptx

1第一节点估计

一、点估计二、矩估计三、最大似然估计四、小结

220世纪以前的漫长历史时期，统计学始终以“描述性统计(DescriptiveStatistica)”为主体.

所谓描述性统计就是搜集数据并作简单的运算

如求和、求平均值、求比例（百分比）等等，或用诸如直方图、饼图等图表描述出来结果.

中国历代都有户口钱粮的统计，古以色列国也经常作出生婴儿的统计.这些统计工作都是为国家政权统治服务的，至今列国也都有专门的统计机关（如中国的国家统计局、国家审计署）。事实上，统计学(Statistica)词根出自拉丁文Statista，即“政治”之谓.

3伟大的高斯和勒让德在19世纪所作的有关最小二乘法的工作，使得统计学开始逐渐脱离传统的描述性统计的范畴.它在统计思想上的决定性观点是：数据是来自服从某种概率分布的总体，统计学则是从这个总体来采样，获得某种容量的样本，通过样本分析来反过来推断总体的分布特征.这使得统计学开始强调“推断(Inference)”而非“描述(Description)”.随着以费歇(R.A.Fisher)为代表的英国统计学派的崛起，现代数理统计的各个重要分支开始逐一建立.费舍尔

4统计推断有两类基本问题——参数估计和假设检验.参数估计又有点估计和区间估计之分.

5一、点估计

PointEstimation设总体X的分布函数形式已知,但它的一个或多个参数为未知,借助于总体X的一个样本来估计总体未知参数的值称为点估计.例1

6解用样本均值来估计总体的均值E(X).

7点估计问题的一般提法

8二、矩估计法由于估计量是样本的函数,是随机变量,故对不同的样本值,得到的参数值往往不同,如何求估计量是关键问题.常用构造估计量的方法:(两种)矩估计法和最大似然估计法.

9矩估计法

10(X为连续型)(X为离散型)

11矩估计法（MomentEstimation）用样本矩来估计总体矩,用样本矩的连续函数来估计总体矩的连续函数,这种估计法称为矩估计法.矩估计法的具体做法是建立矩方程组，有几个未知参数就有几个方程（常见的是1或2个方程）:矩估计量的观察值称为矩估计值.

12矩估计法（MomentEstimation）可建立矩方程如下(最后写估计量时要“戴帽子”):即:即:①②命题：设未知参数为总体随机变量的均值和方差:从而

13解根据矩估计法,例1均匀分布的数学期望位于区间的中点.

14解例2.几何分布的总体均值的矩估计(酒鬼回家)

15解解方程组得到矩估计量分别为例3总体均值与方差的矩估计

16上例中我们并没有说总体分布是什么，这表明:总体均值与方差的矩估计量的表达式不因不同的总体分布而异.一般地,例如,

17例4设总体X的概率密度为解:X1，…，Xn为样本，求参数?的矩估计。

18而

19三、最大似然估计法MLE(MaximumLikelihoodEstimation)似然函数定义为样本联合分布律联合分布律即边缘分布律的连乘积

20离散型似然函数即边缘分布律的连乘积样本的联合分布律设样本值对应于

21最大似然估计法：建立最大似然方程（组）并求导，确定驻点即为估计量

22似然函数定义为样本联合概率密度

23连续型似然函数即边缘概率密度的连乘积样本的联合概率密度称为样本的似然函数

24求最大似然估计量的步骤:费舍尔最大似然估计法是由费舍尔引进的.

25最大似然估计法也适用于分布中含有多个未知参数的情况.此时只需令对数似然方程组对数似然方程

26例5设总体X的概率分布为其中为未知参数。现抽得一个样本求的极大似然估计量。解样本的似然函数为

27取对数，得求导数，得令导数为0，得此即为的极大似然估计量。解得

28解似然函数例6

29这一估计量与矩估计量是相同的(巧合!).

30解X的似然函数为例7

31

32它们与相应的矩估计量相同.

33解*例8

34

35

36解练习

37这一估计量与矩估计量是相同的(又巧合!).但注意并非所有情况下都是如此.常数!

38最大似然估计的性质?.证明

39?此性质可以推广到总体分布中含有多个未知参数的情况.如例9中,

40四、小结两种求点估计的方法:矩估计法最大似然估计法在统计问题中往往先使用最大似然估计法,在最大似然估计法使用不方便时,再用矩估计法.

41费舍尔资料RonaldAylmerFisherBorn:17Feb.1890inLondon,England

Died:29Jul.1962inAdelaide,Australia