最大释然估计与距估计.ppt

§5?2 参数的最大似然估计与矩估计 一、最大似然估计 二、矩估计 一、最大似然估计 二、矩估计 1? 最大似然法的基本思想 在已经得到试验结果的情况下? 我们应该寻找使这个结果出现的可能性最大的那个?作为真?的估计? 一、最大似然估计 1? 最大似然法的基本思想 若X为离散型随机变量? 其概率分布的形式为 P{X?x}?p(x??)? 则样本(X1? ???? Xn)的概率分布 称为似然函数? 设(X1? ???? Xn)为来自总体X的样本? X的分布类型已知? 但参数?未知???Θ? 似然函数L(?)的值表示(X1? ???? Xn)取值(x1? ???? xn)的可能性的大小? 一、最大似然估计 1? 最大似然法的基本思想 设(X1? ???? Xn)为来自总体X的样本? X的分布类型已知? 但参数?未知???Θ? 若已经得到了样本值(x1? ???? xn)? 那该样本值出现的可能性应该是大的? 因而我们选择使L(?)达到最大值的那个?作为真?的估计? 称为似然函数? 若X为连续型随机变量? 其密度函数为f(x??)? 则样本(X1? ???? Xn)的密度函数 定义5?4(最大似然估计) 若对任意给定的样本值(x1? ???? xn)? 存在? *?? *(x1? ???? xn)? 使 则称?*(x1? ???? xn)为?的最大似然估计值? 称相应的统计量?*(X1? ???? Xn)为?的最大似然估计量? 它们统称为?的最大似然估计? 可简记为MLE? 2? 最大似然估计的一般求法 当似然函数关于未知参数可微时? 一般可通过求导数得到MLE? 其主要步骤是? (1)写出似然函数(?1? ???? ?r)? (3)判断驻点为最大值点? (4)求得各参数的MLE? 说明? 按照本课程的要求? 当似然函数的驻点惟一时? 不必验证该驻点是否为最大值点? 可直接把驻点作为所求参数的最大似然估计? 例5?7 设总体X~N(?? ? 2)? ?与? 2均未知? ?∞??∞? ? 2?0? (X1? ???? Xn)为来自X的样本? (x1? ???? xn)为样本值? 试求?与? 2的最大似然估计? 解 X的密度为 似然函数为 例5?7 设总体X~N(?? ? 2)? ?与? 2均未知? ?∞??∞? ? 2?0? (X1? ???? Xn)为来自X的样本? (x1? ???? xn)为样本值? 试求?与? 2的最大似然估计? 解 似然函数为 似然函数的驻点为 别为?与?2的最大似然估计值? 最大似然估计的不变性 例5?8 设某种型号的电子元件的寿命X(以小时计)的密 168? 130? 169? 143? 174? 198? 108? 212? 252? 平均寿命以及概率P{X?180}的最大似然估计值? 先求平均寿命EX即?的最大似然估计量? 解 似然函数为 例5?8 设某种型号的电子元件的寿命X(以小时计)的密 168? 130? 169? 143? 174? 198? 108? 212? 252? 平均寿命以及概率P{X?180}的最大似然估计值? 先求平均寿命EX即?的最大似然估计量? 解 似然函数为 解 例5?8 设某种型号的电子元件的寿命X(以小时计)的密 168? 130? 169? 143? 174? 198? 108? 212? 252? 平均寿命以及概率P{X?180}的最大似然估计值? 1? 矩法的基本思想 用相应的样本矩去估计总体矩? 用相应的样本矩的函数去估计总体矩的函数? 例如 二、矩估计 1? 矩法的基本思想 一般地? 若记 则总体的k阶原点矩用相应的样本k阶原点矩来估计? 而总体的k阶中心矩用相应的样本k阶中心矩来估计? 即 这种求点估计的方法叫做矩法? 用矩法确定的估计量称为矩估计