极大似然估计法在方程中的应用.docx

极大似然估计法在方程中的应用 由于已知的总体分布，仅计算全球分布参数，通常使用三种点估价方法。序列计数估算法、矩阵估计法和大概率估计法。极大似然估计法不仅对任何总体都适用, 而且得到的估计量具有一致性和有效性。但在利用极大似然估计法对总体参数进行估计时, 必须采用适当的方法才能确定出其估计值, 下面给出两种情况下的极大似然估计具体方法。 定义:设总体X具有k≥1个未知参数的概率函数{f(x;θ1,θ2, …,θk) ∶ (θ1,θ2, …,θk) ∈θ}, 取样本观察值x1,x2, …,xn, 则 L=L(θ1,θ2, …,θk;x1,x2, …,xn) =n∏i=1f(xi;θ1,θ2, …,θk) (1) 称为似然函数.使似然函数达到极大值的θ1,θ2, …,θk取值?θ1??θ2????θk, 即满足L(?θ1??θ2????θk;x1,x2,??xn)=sup(θ1,θ2,?,θk)∈θL(θ1,θ2,??θk;x1,x2, …,xn) (2) 称作θ1,θ2, …,θk的极大似然估计值。 1. 拟然方程的建立 (1) 根据样本观测值x1,x2, …,xn按 (1) 式构造似然函数L; (2) 对似然函数L取对数lnL, 并对未知参数θ1,θ2, …,θk求偏导, 并令其等于零, 得到关于θ1,θ2, …,θk的似然方程组: ?lnL?θi=0,i=1,2,??k; (3) (3) 直接求解方程组 (3) 可得θ1,θ2, …,θk极大似然估计值?θ1??θ2????θk. 2. 极大似然最大值a2 此种情况下只能按定义进行, 具体方法如下: (1) 同样根据样本观测值x1,x2, …,xn, 按 (1) 式构造似然函数L; (2) 利用次序统计量x(1)≤x(2)≤…≤x(n), 根据题设条件确定其与参数θ1,θ2, …,θk之间的关系; (3) 根据参数的极大似然估计定义求出θ1,θ2, …,θk的极大似然估计值?θ1??θ2????θk. 例1设X服从 (μ,σ2) , 其中μ,σ2未知.为估计μ,σ2, 抽取容量为n的样本X1,X2, …,Xn, 观测值分别为x1,x2, …,xn, 试求μ,σ2的极大似然估计值。 解按 (1) 式构造似然函数: L(μ?σ2)=n∏i=11√2πσe(xi-μ)22σ2=(2πσ2)-n2e-n∑i=1(xi-μ)22σ2. 对似然函数对数得: lnL(μ,σ2)=-n2ln(2πσ2)-12σ2n∑i=1(xi-μ)2. 将上式分别对μ和σ2求偏导, 并令它们为0, 得到关于μ和σ2的似然方程组: {?lnL(μ,σ2)?μ=1σ2nΣi=1(xi-μ)2=0??lnL(μ,σ2)?σ2=-n2σ2+12σ4n∑i=1(xi-μ)2=0. 解上面似然方程组得μ和σ2的极大似然估计值: ?μ=ˉx,?σ2=1nn∑i=1(xi-ˉx)2. 例2设总体X服从均匀分布U[a,b],a和b未知, 抽取容量为n的样本X1,X2, …,Xn, 观测值分别为x1,x2, …,xn, 求a和b的极大似然估计值。 解依题意可得X的概率密度: f(x; a,b)={1b-a,a≤x≤b0?其它 引入次序统计量, 由于a≤x1, …,xn≤b, 等价于a≤x(1),x(n)≤b, 于是按 (1) 式构造似然函数: L(a,b)={1(b-a)n,a≤x(1)≤x(n)≤b0?其它 于是对任意满足上式的a和b有: L(a,b)=1(b-a)n≤1(x(n)-x(1))n. 由此可知当a=x(1),b=x(n)时L(a,b) 取得最大值, 根据极大似然估计定义可得参数a和b的极大似然估计值为: a^=x(1)=minxi,b^=x(n)=maxxi.