【中国矿业大学课件】概率论-陈兴同老师版-第一节.pptVIP

事实上： 这个驻点p是否是最大值点？根据一元函数极值定理，二阶导数小于0，则为最大值点! 最大似然估计量为： 从而 最大似然估计值为： 课本上P182面给出了0-1分布的最大似然估计量，自看。 一般地：似然函数通常是单峰,故驻点必是最大值点。 注意 单峰概率直方图 不必要再进行二阶导数验证最大值点! 如果总体X是连续型分布X～f(x,θ)，并且X1,X2,…,Xn是来自这个总体的一个随机样本，x1,x2,…,xn是这个随机样本的样本值，则这个样本发生的概率为： 最大似然估计法作法 砍掉充分小的dxi,记这个概率为θ的函数： 连续型总体中参数θ的似然函数!它是概率密度函数在样本值处的乘积！ 最大似然估计值 最大似然估计量 怎样求最大值点？ 基于此通常先取对数，再求最大值点。 化成求对数似然函数的最大值点! 如果对数似然函数二阶可导，并且概率密度函数是单峰函数，则驻点就是最大值点!通过求一阶导数能得驻点： 例4： 设总体X服从指数分布，其中参数θ未知。如果X1,X2,…,Xn是来自这个总体的一个随机样本，求参数θ的最大似然估计量。 解：Step1:先写出指数分布的公式，以便求似然函数： Step2:对所给样本值 x1,x2,…,xn 求似然函数： Step3:将对数似然函数求导并令它为0，即可求出驻点。 最大似然估计量为： 从而 最大似然估计值为： 多参数总体的最大似然估计 最大似然估计也适用于多个参数的总体，比如： (1)对离散型总体X～p(x,θ1,θ2,…,θk),它的似然函数： (2)对连续型总体X～f(x,θ1,θ2,…,θk),它的似然函数： 多参数总体的最大似然估计 如果似然函数或对数似然函数关于参数θ1,θ2,…,θk具有二阶连续偏导数，则可用求驻点的方法求驻点，并判断驻点是否是最大值点，即得最大似然估计值。 对于单峰的概率分布函数与概率密度函数，驻点总是最大值点，不必验证。 例5： 设总体X服从正态分布N(μ,σ2)，其中参数μ,σ2未知。如果X1,X2,…,Xn是来自这个总体的一个随机样本，求参数的最大似然估计量。 解：Step1:先写出正态分布的公式，以便求似然函数： Step2:对所给样本值 x1,x2,…,xn 求似然函数： * 第七章 参数估计 1、什么是参数估计？ 当总体的分布类型已知，但其中仍有未知参数。比如总体X服从参数μ,σ2的正态分布，但μ,σ2未知。但是我们能根据来自总体X的一个简单随机样本X1,X2,…,Xn通过适当的方法对这些未知参数进行估计，得到它的一个近似值或近似区间。 2、参数估计有哪些形式？ (1)点估计：矩估计法、极大似然估计法。 (2)区间估计：正态总体下区间估计法。 参数估计是统计推断的一个基本问题。 点估计 1、什么是点估计？ 当总体的分布类型已知，但其中有未知参数，根据来自总体X的一个简单随机样本X1,X2,…,Xn通过适当的方法对这些未知参数的值进行估计，得到它的一个近似值而不是一个包含真值的近似区间。 2、点估计有哪些形式？ 我们只学习矩估计法、极大似然估计法。 点估计的估计结果是一个值! 点估计量 点估计的估计结果是一个值! 设θ是总体X分布中的未知参数，X1,X2,…,Xn是来自这个总体的简单随机样本，通过适当的方法构造一个统计量 作为θ的估计，称为参数θ的估计量； 相应的观测值 称为θ的估计值。 矩估计法 假设：(1)总体X为离散型或连续型，其它类型总体不考虑。(2)总体有确定的分布类型即有概率密度函数或分布律，但其中有未知参数。 (3)θ1,θ2,…,θk为待估计参数，共有k个。 (4)总体矩为μ1,μ2,…,μk，共有k个，计算公式为 矩估计法理论依据 命题1：设总体X的k阶矩存在即E(Xk)=μk,则k阶样本矩Ak依概率收敛于k阶总体矩。即 事实上：可以用大数定律证明。 X1,X2,…,Xn是来自这个总体的简单随机样本 → X1k ,X2k,…,Xnk也独立同分布 → X1,X2,…,Xn独立同分布 → 并且数学期望E(X1k)=E(X2k)=…=E(Xnk)=μk都存在 什么大数定律？ 样本矩是什么？ 矩估计法理论依据 命题2：设总体X的l=1,2,…,k阶矩存在即E(Xl)=μk,则l阶样本矩A1,A2,…,Ak的连续函数g(A1,A2,…,Ak)也依概率收敛于总体矩的连续函数即 根据这两个命题，我们使用如下方法来进行矩估计： (1)用样本矩A1,A2,…,Ak来估计总体矩； (2)用样本矩的连续函数g(A1,A2,…,Ak)来估计总体矩的连续函数g(μ1,μ2,…,μk)。 矩估计法作法 Step1:先求总体矩μ1,μ2,…,μk,它们是参数θ1,θ2,…,θk的函数。 Step2:从总体矩中解出参数θ1,θ2,…,θk。 Step3: