概率论与数理统计第十四周培训教案.pptVIP

(1)???定义：设总体X的概率密度（或分布律）为 f(x; ?1 ,?,?m) ，??? ? Rm，X1, ?,Xn为来自总体 的 样本，则（X1,?,Xn）的密度函数（或分布律）为 若已知样本观测值(x1,?,xn)，则令 称其为样本值(x1,?,xn)的似然函数 注意：a、对于样本（X1,?,Xn）的密度函数（或分布律） 若 大，说明样本（X1,?,Xn） 在(x1,?,xn)附近取值的概率大； 若 小，说明样本（X1,?,Xn）在 (x1,?,xn)附近取值的概率小。 b. 当已得样本（X1,?,Xn）的观测值(x1,?,xn)，若 则在第一组参数 下，样本（X1,?,Xn）在(x1,?,xn)附近取值的概率较大，即在参数 下，更有可能发生结果(x1,?,xn)。因此， 更象是导致结果(x1,?,xn)发生的一组参数。 c. 若已知观测值(x1,?,xn)，那么哪一组参数更象是导致结果(x1,?, xn)发生的一组参数呢？ (2) 定义：如果似然函数 在 达到最大值，即 则称 分别为?1,?,?m的最大似然 估计。 （3）最大似然估计的求法 即求多元函数 在 内关于 求最大值点。 (4) 未知参数的函数的最大似然估计 设总体X的分布类型已知, 其概率密度（或概率函数）为f(x;?1,…, ?m), 未知参数的已知函数为g(?1,…, ?m). 若 分别为?1,…, ?m的最大似然估计, 则规定 为 g(?1,…, ?m)的最大似然估计. (3) 在最大值点的表达式中, 用样本值代入 就得参数的最大似然估计值 . 求最大似然估计(MLE)的一般步骤是： (1) 由总体分布导出样本的联合分布律 (或联合密度); (2) 求似然函数L( ? ) 的最大值点(常常转化 为求ln L(? )的最大值点) ，即 ? 的最大似然估计(MLE); MLE是maximum likelihood estimate缩写 L(p)= f (x1,x2,…xn; p ) 例6 设X1,X2,…, Xn是取自总体 X~b(1, p) 的一个样本，求参数p的最大似然估计. 解：似然函数为: 对数似然函数为： 对p求导并令其为0， =0 得 为 p 的最大似然估计. 例7 一罐中装有白球和黑球，有放回地抽取一个容量为n的样本，其中有 k 个白球，求罐中黑球与白球之比 R 的最大似然估计. 解: 设X1,X2,…,Xn为所取样本， 则X1,X2,…,Xn是取自b(1, p)的样本，p是每次抽取时取到白球的概率，p未知 . 先求p的最大似然估计： p的最大似然估计为 在前面例6中, 我们已求得 由前述最大似然估计的性质不难求得 的最大似然估计为： 解：似然函数为 对数似然函数为 例8 设X1,X2,…Xn是取自总体X的一个样本 求 的最大似然估计. 其中 0, 求导并令其为0 =0 从中解得 即为 的MLE . 对数似然函数为 例9 设总体X的概率分布为 ? 1-2? ? P 2 1 0 X 其中0? ? ?1/2为未知参数。今对X进行观测， 得如下样本值 0，1，2，0，2，1 求? 的最大似然估计。 （自己做, 提示如下） 从而 由此再求最大似然估计 第七章 参数估计 先看一看统计推断的大体思路 如下: 总体 样本 统计量 描述 作出推断 随机抽样 统计推断的基本问题分为两大类: 估计问题和检验问题. 参数估计该怎么具体做呢? 做些什么?  参数估计问题是利用从总体抽样得到的样本来估计总体的某些参数或者参数的函数. 参数估计 在参数估计问题中，假定总体分布 形式已知，未知的仅仅是一个或几个 参数. 这类问题称为参数估计. 参数估计问题的一般提法 X1, X2,…, Xn 要依据该样本对参数 作出估计，或估计 的某个已知函数 . 现从该总体抽样，得到样本 设有一个总体，它的分布函数 向量) . 为 F(x, )，其中 为未知参数 ( 可以是 参数估计 点估计 区间估计