航空宇航推进技术“211工程”“九五”期间建设项目验收.pptVIP

第七章 参数估计 统计推断的两大基本问题：一是估计问题，二是假设检验问题。 参数估计问题是从总体抽样得到的信息来估计总体的某些参数或参数的某个函数。 总是假定总体具有已知的分布形式，参数未知。总体的真分布完全由这些参数所决定，通过估计参数可以估计总体的真分布。 例6 设总体X在[a,b]上服从均匀分布，a,b未知， 解：总体一阶矩： 总体二阶矩： 即： 是来自X的样本，试求a,b的矩估计量。 解得： 分别以 的矩估计量分别为 总结： 矩估计法的优点是简便易行，并不需要事先知道 总体的分布； 缺点是：在总体分布类型已知的场合，没有充分 利用分布提供的信息。 一般场合下，矩估计量不具有唯一性。如泊松分 布参数的矩估计量既可以是样本均值，又可以是 样本方差。 （2）最大（或极大）似然估计法 它是在总体分布类型已知的情况下使用的 一种参数估计法。 最大似然估计法提出的基本思想：同学与 猎人打野兔的故事。 具体提法是: 设总体X属离散型随机变量，其分布律为 的形式为已知， 为待估参数， 设 是来自总体X的样本，则 的联合分布律为： 可能取值的范围。 又设 是相应于样本 的一个样本值。样本 取到观察值 的概率（亦即事件 发生的概率）为： 这一概率随 的取值而变化，它是 的函数，令 称为样本的似然函数（注意，这里 是已知的样本值，它们都是常数）。 最大似然估计法的直观思想： 现在已经取到样本值 这一样本值的概率 我们不会考虑那些不能使样本 出现的 作为 取 ，使样本 出现的概率最大。 ，这表明取到 比较大。 的估计。 由费希尔（R.A.Fisher）引进的最大似然估计法，就是固定样本观察值 ，在 取值的可能范围 内挑选使似然函数 达到最大的参数值 ，作为参数 的估计值，即取 使 这样得到的 与样本值 有关，记为 称为参数 的最大似然估计值，而相应的统计量 称为参数 的最大似然估计量。 最大似然估计法： 若总体X属连续型，其概率密度 的形式已知， 为待估参数， 是 设 是来自总体X的一个样本，则 的联合密度为： 可能取值的范围。 设 是相应于样本 的一个样本值，则随机点 落在点 的邻域（边长分别为 的n维立方体）内的概率近似地为 其值随 的取值而变化。与离散型的情况一样，取 的估计值 使概率取到最大值。 因为 与 无关，故只需考虑函数： 的最大值。这里 称为样本的似然函数。若： 则称 为 的最大似然估计值，称 为 这样，确定总体参数 就归结为求似然函数 的最大值问题。 的最大似然估计量。 的最大似然估计值的问题 在很多情形下， 关于 可微，这时 常可从方程： 解得。又因为 是 的增函数，所以 与 在同一 处取到极值。因此， 的最大似然估计 也可以从方程： 求得。从后一方程求解往往比较方便。称为对数似然方程。 如果方程组有唯一解，又能验证它是极大值点，则它必然是所求的最大似然估计值。有时，如直接用方程行不通，可以用原始定义求。 最大似然估计法也适用于分布中含多个未知参数 参数的函数。分别令： 或令 解上述由k个方程组成的方程组，即可得到各未知参数 的最大似然估计值 ，它们分别是总体参数 的最大似然估计值。 的情况。这时，似然函数L是这些未知 例7：设 试求参数P的最大似然估计量。 是样本 的一个样本值。X的分布律为： 似然函数为： 取对数 是来自总体X的一个样本， 解：设 令 解得p的最大似然估计值： p的最大似然估计量为： 这一估计量与矩估计量是相同的。 例8：设 为未知参数 是来自总体X的一个样本值。求 的最大似然估计量。 解：X的概率密度为： 似然函数为： 取对数 令 解得 得 的最大似然估计量为： 它们与相应的矩估计量相同。 例9：设总体X在[a,b]上服从均匀分布，a,b未知， 解：记 X的概率密度是 是一个样本值。试求a,b的最大似然估计量。 由于 等价于 似然函数为： 于是对于满足条件 的任意a,b有 即 时取到最大值 。故a,b的最大似然估计值为： a,b的最大似然估计量为： 最大似然估计具有下述性质： 的函数 具有单值反函数 又设 是X的概率分布中参数 的最大似然估计，则 也是 当总体分布中含有多个未知参数时，也具有上述性质。 设 的最大似然估计。 例如， 的最大似然估计为： 函数 有单值反函数 根据上述性质，得到标准差 的最大似然估计为： 求最大似然估计值的一般步骤是： 由总体分布导出样本的联合分布律函数（或联合概率密 度）； 2.把样本联合分布律函数（或联合概率密度）中自变量看 成已知常数，而把参数 看作